Představte si běžné pondělí na úřadě. Referentka potřebuje rychle sepsat odpověď na stížnost, tak zkopíruje celý dopis občana do veřejného AI chatbotu. Jméno, adresa, popis sporu se sousedem. Za tři vteřiny má krásný koncept odpovědi. A úřad má problém, o kterém zatím neví.
Přesně před tímhle scénářem nedávno varoval časopis Veřejná správa i odborný web ISVS.CZ: o úspěchu umělé inteligence ve veřejné správě rozhodne ochrana osobních údajů. Jenže z toho neplyne, že AI na úřad nepatří. Plyne z toho jen to, že záleží, kterou stranou ji vezmete do ruky.
Proč se úřady AI bojí (a proč právem)
Jakmile úředník vloží osobní údaje do běžně dostupné cloudové AI služby, úřad ztrácí kontrolu nad tím, co se s daty dál děje. A odpovědnost přitom nenese výrobce chatbotu, ale vždy úřad jako správce osobních údajů. Tak to říká GDPR a připomíná to i zdrojový článek.
Proto úřady, které to myslí vážně, řeší před nasazením AI interní pravidla: jaké údaje se smí kam zadávat, které služby jsou schválené a jak výstupy kontroluje člověk. To je správně a žádná technologie to neobejde. Jenže tenhle oprávněný respekt má vedlejší účinek. Spousta obcí kvůli němu odkládá AI úplně, včetně využití, kde žádné riziko nehrozí. A to je škoda, protože občané se mezitím ptát nepřestali.
Kde je hranice mezi rizikem a bezpečným nasazením
Celá hranice se dá shrnout do jedné otázky: s jakými daty AI pracuje?
Rizikový scénář je ten z úvodu. AI dostává osobní údaje občanů, které nemá dostat. Bezpečný scénář je přesně opačný: AI pracuje výhradně s informacemi, které obec sama zveřejňuje. Úřední hodiny, poplatky, vyhlášky, aktuality, obsah úřední desky. Tedy data, která jsou ze zákona veřejná a žádné osobní údaje k práci nepotřebují.
V bezpečném scénáři se občan zeptá „kdy si můžu vyřídit novou známku na popelnici“ nebo „jak zaplatím poplatek za psa“ a odpověď vznikne z webu obce. Nikdo nikam nevkládá cizí rodná čísla ani sousedské spory. Celá kategorie rizik s osobními údaji vůbec nevznikne, protože v systému nejsou. Tohle rozlišení doporučujeme každému starostovi jako první filtr při jakékoliv nabídce AI: zeptejte se dodavatele, odkud jeho systém bere data a co se děje s dotazy občanů. Kdo neumí odpovědět jednou větou, není připravený na úřad.
Jak vypadá AI pro občany v praxi
Přesně na tomhle principu jsme postavili QARO AI, chatbota pro občany, který je součástí moderního webu pro obce QARO. Odpovídá na dotazy občanů 24 hodin denně a čerpá z veřejných informací obce.
V praxi už QARO AI běží například v Libochovanech, Hodslavicích nebo Divišově. Občan dostane odpověď hned, i v neděli večer, a úřad ráno nenajde deset stejných telefonátů. Referentka z úvodu může dál používat hlavu a úřad má jistotu, že AI komunikuje jen to, co je veřejné.
Stát mezitím připravuje metodiky a desatera pro odpovědné využívání AI ve veřejné správě. Číst je určitě má smysl. Ale čekat na ně nemusíte: bezpečná cesta, jak dát občanům AI k dispozici, existuje už teď. Stačí si pohlídat tu jednu věc, na které to celé stojí. Data.
Chcete vidět, jak by QARO AI odpovídala na dotazy vašich občanů?
Zdroje: ISVS.CZ: Chatovací AI ve veřejné správě · Desatero a Průvodce pro etické a odpovědné využívání AI ve veřejné správě
