Když jste poprvé slyšeli o možnostech generativní AI, možná vás napadlo, jak by pomohla se zpracováním žádostí občanů. Pak jste si uvědomili, že pracujete s osobními údaji. Může to být vůbec legální? Pojďme si udělat jasno.

Veřejné nástroje a specializovaná řešení jsou dva světy

Když se řekne AI nástroje, většina z nás si představí ChatGPT, Microsoft Copilot a další veřejně dostupné služby. Jsou skvělým začátkem. Jsou zdarma nebo za malý poplatek, každý se je naučí používat během pár minut a nabízejí překvapivě dobré výsledky. Má to ale háček. Nikdy přesně nevíte, co se s vašimi daty děje. Poskytovatelé je mohou použít k trénování svých modelů a nemáte garanci ochrany osobních údajů.

Na druhé straně spektra stojí specializovaná řešení vyvinutá přímo pro potřeby veřejné správy. Počáteční investice je vyšší, ale získáte systém se zabezpečeným zpracováním dat, možností práce s osobními údaji při dodržení GDPR a napojením na existující systémy úřadu. Je to jako rozdíl mezi veřejnou dopravou a služebním vozem. Obojí vás doveze do cíle, ale každé se hodí na jiné situace.

Co kam patří

S veřejnými nástroji můžete bez obav formulovat odpovědi na obecné dotazy občanů, analyzovat veřejné dokumenty, připravovat podklady pro jednání, optimalizovat interní procesy nebo vyhledávat v legislativě.

„Do veřejného chatbota nikdy nevkládejte osobní údaje občanů, interní dokumenty úřadu ani neveřejné materiály.“

AI Act funguje jako semafor

Evropský akt o umělé inteligenci přináší městům a obcím systém pravidel podobný semaforu.

  • Zelenou dostává většina běžných činností. Příprava dokumentů, analýza veřejně dostupných dat, generování textů.
  • Oranžovou mají oblasti vyžadující zvýšenou pozornost a jasné postupy. Chatboty pro komunikaci s občany, automatické třídění dokumentů, systémy pro podporu rozhodování.
  • Červenou dostávají činnosti z dobrého důvodu zakázané. Plně automatizované rozhodování ve správním řízení o právech a povinnostech občanů, systémy pro sociální hodnocení a jakékoli využití AI bez možnosti lidské kontroly v procesech s přímým dopadem na práva občanů.

Základní princip je jednoduchý. Čím větší dopad může mít AI na práva a životy občanů, tím přísnější pravidla platí.

Minimální směrnice v sedmi bodech

Směrnice nemusí mít dvacet stran. Z naší praxe stačí, když srozumitelně odpoví na sedm otázek.

  • Které nástroje jsou schválené a kdo schvaluje nové.
  • Jaká data se smí a nesmí do nástrojů vkládat.
  • Kdo odpovídá za výstup, který opustí úřad.
  • Jak se výstupy ověřují, tedy dvouoká zásada u všeho důležitého.
  • Jak se použití AI eviduje.
  • Co dělat při úniku dat nebo chybném výstupu.
  • Kdy a jak se směrnice reviduje, protože nástroje i pravidla se mění.

Tři kroky k bezpečnému využití

  • Rozdělte si agendu. Co zvládnou veřejné nástroje, kde potřebujete specializované řešení a jaká data v které agendě zpracováváte.
  • Nastavte pravidla. Jasná směrnice pro zaměstnance, systém kontroly a odpovědností a postup pro případ nehody.
  • Vzdělávejte zaměstnance. Praktické workshopy s konkrétními příklady a pravidelné aktualizace, protože pravidla i nástroje se vyvíjejí.

AI ve veřejné správě je jako každý jiný nástroj. Klíčové je vědět, kdy a jak ho použít. S veřejnými nástroji můžete směle experimentovat v běžné administrativě, pro citlivější agendy existují specializovaná řešení, která zajistí bezpečnost a soulad se zákony.

foto
Ivana Böhmová
Externí spolupracovnice · AQE advisors