AI zvládne první verzi zápisu, shrnutí dotazníku i rešerši za pár vteřin. Poslední slovo ale má člověk, který se pod výstup podepíše. Od února 2025 to navíc není jen dobrý zvyk, ale povinnost daná AI Actem.

Ranní shon v kanceláři. Pět otevřených oken v prohlížeči ze včerejška, tři telefonáty, jeden e-mail s naléhavým „potřebujeme to dnes“. Do toho vyskočí nápověda od AI, která slibuje, že přepíše zápis, sečte dotazník a vyrobí shrnutí. Skvělá pomůcka.

Rozumné rozhodnutí ale vzniká až potom. Projdu výstup, ověřím fakta, doplním kontext a teprve pak to jde ven pod mým jménem. AI udělá první verzi, člověk má poslední slovo.

AI umí rychlost, člověk dodává kontext

AI dnes skvěle hledá souvislosti, pomáhá s texty, kontroluje výstupy a analyzuje data. Nemá ale vlastní hodnoty a nenese odpovědnost. Kontext dodává člověk. Teprve spojení rychlosti algoritmu se zkušeností, intuicí a zdravým úsudkem dává výstup, který obstojí.

„AI napíše první verzi. Tečku dělá člověk, který se pod ni podepíše.“

Halucinace, bias a deepfake nejsou okrajové jevy

Halucinace je nepodložený výstup, který zní jako sebevědomé tvrzení a vypadá naprosto přesvědčivě. Bias je zkreslení okopírované z trénovacích dat, které posiluje stereotypy. Deepfake jsou dokonale věrohodné fotky, videa a hlasové klony, vděčná zábava i účinný nástroj podvodu.

Proto je human-in-the-loop víc než fráze. U každého důležitého výstupu má být člověk, který se ptá, ověřuje a dává věci do souvislostí. A citlivá data do otevřených chatbotů nepatří, ani ve zkrácené podobě, ani „jen na vyzkoušení“.

AI gramotnost už není doporučení, ale povinnost

Rizika nezmizí, dají se ale systematicky snížit na přijatelnou úroveň konkrétními pravidly, nástroji a kontrolami. Od 2. února 2025 k tomu navíc přibyla jasná povinnost. Podle čl. 4 AI Actu musí poskytovatelé i uživatelé (deployeři) systémů AI v co největší možné míře zajistit u dotčených osob přiměřenou úroveň AI gramotnosti.

Nejde o jednorázový papír ani o univerzální kurz pro všechny. Rozsah má odpovídat roli, znalostem a prostředí, kde je AI nasazena. Referentka, která AI používá na přepis zápisů, potřebuje něco jiného než vedoucí odboru, jenž na jejím výstupu staví podklad pro radu.

Česko se na to připravuje strategií NAIS 2030 a Akčním plánem 2025, který převádí priority do konkrétních kroků včetně vzdělávání a rozvoje dovedností.

Směrnice, školení, kontrola

Pro úřady, školy i firmy platí stejné pořadí kroků.

  • Směrnice. Jednoduchý interní dokument, který říká, co je povoleno a co zakázáno, jak se pracuje s daty, které nástroje jsou schválené a kdo má poslední slovo.
  • Školení podle rolí. Obsah i hloubku přizpůsobte tomu, jak konkrétní role AI reálně používá.
  • Ověřování výstupů. Dvouoká zásada u všeho, co jde ven, uvádění zdrojů a evidence toho, kde se AI použila.

Pořadí přitom není libovolné. Školení bez směrnice vytvoří nadšení bez mantinelů. Směrnice bez školení vytvoří dokument, který nikdo nečte.

foto
Dita Poledníčková
AQE academy