AI je pomocník, ne náhrada úsudku

Ranní shon v kanceláři. Pět otevřených oken v prohlížeči ze včera, tři telefonáty, jeden e-mail s naléhavým „potřebujeme to dnes“. Do toho vyskočí nápověda od AI, která slibuje, že přepíše zápis, sečte dotazník a vyrobí shrnutí.

Skvělé! To je rychlá pomůcka. Rozumné rozhodnutí vzniká až potom: projdu výstup, ověřím fakta, doplním kontext a teprve pak to jde ven pod mým jménem. Zkrátka a dobře, AI udělá první verzi, člověk poslední slovo.

Síla kombinace algoritmus a selský rozum

AI dnes skvěle hledá souvislosti, pomáhá s texty i kontrolou výstupů, analyzuje. Jenže nemá vlastní hodnoty a nenese odpovědnost. Kontext dodává člověk. Rychlost algoritmů plus zkušenost, intuice a „selský rozum“ člověka zaručí ideální výstup. 

Když se AI splete: halucinace, bias a deepfake

Zjevná nepravda nebo nepodložený výstup, který vypadá opravdu přesvědčivě. Není to nic neobvyklého a zní to často jako sebevědomé tvrzení. Říkáme tomu halucinace. Nebo naopak okopíruje zkreslení ze svých dat a posílí stereotypy (bias). A do toho tu máme deepfaky – dokonale věrohodné fotky, videa či hlasové klony, které se hodí jak pro zábavu, tak bohužel i pro podvody. Proto je human-in-the-loop víc než fráze: u důležitých výstupů má být vždy člověk, který se ptá, ověřuje a dává věci do souvislostí. A citlivá data? Ta do otevřených chatbotů prostě nepatří.

AI Act v praxi: AI gramotnost od 2. 2. 2025

Rizika s AI sice nezmizí, ale můžeme je systematicky snížit na přijatelnou úroveň konkrétními pravidly, nástroji a kontrolami. Navíc od 2. 2. 2025 k tomu přibyla i jasná povinnost. Podle čl. 4 AI Act musí poskytovatelé a uživatelé (deployeři) systémů AI „v co největší možné míře“ zajistit u dotčených osob přiměřenou úroveň AI gramotnosti. Nejde o jednorázový papír ani univerzální kurz pro všechny. Rozsah má odpovídat roli, znalostem a prostředí, kde je AI nasazena. 

Česko v pohybu: NAIS 2030 a Akční plán 2025

Česko se na to připravuje. Máme strategii NAIS 2030 a Akční plán 2025, který převádí priority do konkrétních kroků, včetně vzdělávání a rozvoje dovedností. A přidávají se i partneři. Třeba program AI National Skilling Plan míří na stovky tisíc proškolených lidí v ČR.

Jak na to u vás: směrnice, školení, kontrola

Co z toho plyne pro úřady, školy, veřejné instituce i firmy? Začněte u základů. Vypracujte a schvalte jednoduchou interní směrnici pro používání AI (co je povoleno/zakázáno, práce s daty, schválené nástroje, kdo má poslední slovo). Následně podle směrnice proškolte dotčené role a nastavte ověřování výstupů (dvouoká zásada, citace zdrojů, evidence). Obsah i hloubku přizpůsobte konkrétní roli.

AI pomáhá, člověk rozhoduje, AQE academy školí

AI je skvělý pomocník. Ale úsudek, hodnoty a odpovědnost zůstávají na lidech. Chcete, aby u vás AI opravdu šetřila čas a zároveň splňovala pravidla? Naučíme vás, jak ji zapojit bezpečně a smysluplně. AI napíše první verzi, vy dáte tečku. Projděte s námi AI krok za krokem. Základy, prompty, práci s dokumenty a daty, ověřování výstupů. Nebo zvolte variantu kurzu AI přímo na míru pro váš tým.

Otevřené kurzy

Umělá inteligence jako asistent ve veřejné správě aneb nebuď lama, nauč se používat AI

Mistr promptování: pokročilé techniky práce s AI

Dita Poledníčková

Sdílet na LinkedIn