Myslel jsem si, že jsem ve svých 39… ehm … 47 letech viděl snad už vše, dokud jsem nezažil první běh našeho semináře Umělá inteligence (nejen) ve veřejné správě. Lektor nám z YouTube pustil video vytvořené v roce 2023 umělou inteligencí (AI), v němž Will Smith pojídá špagety. Na první pohled je zřejmé, že to není realita. Video je primitivní, s prvky animace, Will vypadá jako postavička ze Sezamovy ulice. Cca ve 40. sekundě můžete vidět stejného herce pojídajícího špagety, ale kvalita uměle vytvořeného videa je milionkrát lepší. Za krátkou dobu se tak AI posunula k naprosto realistickým výtvorům.
Ostražitost je tak namístě. Dnes už můžeme natrefit na videa, v nichž Vás bude premiér republiky nebo guvernér ČNB vyzývat, abyste vybrali všechny peníze z účtů a strčili je do bitcoinmatu. Přitom Vás vůbec nenapadne, že jde o deep fake video, kterými se to v poslední době hodně hemží.
Ostražití musí být nejen senioři, ale naprosto každý.
Jen vzděláváním se v oboru snadněji odhalíme případný podvod.
AI může být ale také dokonalým pomocníkem. Když se zeptáte Chatu GPT, kdo byl Jan Hus, odpověď je:
Jan Hus (asi 1370–1415) byl český kněz, filozof, reformátor a kazatel, který usiloval o reformu katolické církve. Kritizoval její zkaženost, zejména prodej odpustků a morální úpadek duchovenstva. Inspiroval se učením anglického reformátora Johna Wycliffa.
V roce 1415 byl kvůli svým názorům odsouzen na kostnickém koncilu jako kacíř a upálen na hranici. Jeho smrt vedla k husitským válkám (1419–1436), které zásadně ovlivnily české dějiny. Dnes je Hus vnímán jako symbol pravdy, svědomí a boje proti nespravedlnosti. Jeho svátek se slaví 6. července.
Připadá Vám to moc složité? Požádejte slovy „napiš mi to jako 6letému“ o úpravu a výsledek je znatelný:
Jan Hus byl hodný pán, který žil dávno, před více než 600 lety. Byl to kněz a učitel, který chtěl, aby lidé v kostele mluvili česky, aby jim všichni rozuměli. Také říkal, že by se kněží měli chovat správně a neměli by myslet jen na peníze.
To se ale mocným lidem nelíbilo, a tak ho pozvali na velkou schůzku do města Kostnice. Tam ho ale místo poslouchání dali do vězení a nakonec ho upálili. I když to bylo smutné, jeho myšlenky žily dál a hodně lidí ho začalo následovat. Proto ho dnes uctíváme jako statečného člověka, který bojoval za pravdu. Jeho svátek slavíme 6. července.
A pokud Vám už dávno není 6 let, požádejte ho, aby Vám to napsal jako 60letému. Je možné, že to napíše výrazně větším fontem :-)
Obrovským přínosem je dělání rešerší z judikátů. Stačí na ChatGPT kliknout na ikonu sponky, nahrát PDF dokument stažený do počítače (např. z webu soudu), požádat udělej rešerši z přiloženého rozsudku a AI Vám z něj udělá výtah. I zde platí, že 2 právníci mají 4 názory, proto i rešerše judikátu může vyznít jinak než judikát samotný, proto nelze zcela spoléhat na výsledek, ale pro obecný přehled je výtah postačující (z 32 stran tak máte několik málo odstavců).
Další kuriozitou, kterou jsme se na semináři naučili, bylo generování písniček. Na portálu zadáte své požadavky, např. romantická písnička o šikovných úřednicích na Městském úřadě Mohelnice, a AI písničku vygeneruje včetně nazpívání:
Ráno vstávám, venku mlha,
čeká mě zas úřední puha.
Mohelnický úřad svítí,
všichni tam jdou, všichni se třpytí.
Refrén
🎵 Papíry, razítka, všechno se vleče,
čekám tu hodinu, zas mi nic neřekne.
Fronta se hýbe, ale jen kousek,
úředník zmizel na druhej chlebíček. 🎵
2. sloka
S formulářem v ruce kráčím,
okýnko dvě, ale furt se mračím.
„Chybí vám razítko,“ paní mi říká,
a mě už chytá úřední panika.
Refrén
🎵 Papíry, razítka, všechno se vleče,
čekám tu hodinu, zas mi nic neřekne.
Fronta se hýbe, ale jen kousek,
úředník zmizel na druhej chlebíček. 🎵
3. sloka
Po třech kolech a čtyřech podpisech,
sedím u okna, kde slunce mi spíchne dech.
A pak se ozve ta slavná věta:
„Vraťte se zítra… a radši ve středu, ne v pátek!“
A jak to zní i se zpěvem, to si poslechněte zde:
http://download.akademie-vzdelavani.cz/mohelnice.mp3.
Samozřejmě můžete ve vygenerovaném textu upravovat slova nebo si vygenerovat písničku novou. O generování prezentací, videí, obrázků, …, ani nemluvě. AI za pár sekund udělá z fotky video:
Vypadá to děsivě? To kdysi oheň taky… Nemusíme se bát AI, protože je to jen nástroj vytvořený lidmi, který slouží k usnadnění našeho života. Stejně jako oheň nebo elektřina, i umělá inteligence je tak dobrá nebo špatná, jak ji využijeme. Její vývoj je řízen etickými pravidly a regulacemi, které mají zabránit jejímu zneužití.
Jen jejím poznáváním, vzděláváním se a obezřetností z ní vymáčkneme maximum.
Navíc AI sama o sobě nemá vědomí ani vlastní vůli – jedná pouze na základě dat a algoritmů, které jí nastavíme. Klíčem k bezpečnému soužití s AI je odpovědné využívání a neustálá kontrola jejího vývoje.
Objednejte si i Vy seminář – přijedeme kamkoli.
Pište na info@akademie-vzdelavani.cz a klidně navrhněte i několik termínů, kdy se Vám seminář hodí.
P. S. Dne 02.02.2025 vstoupila v platnost povinnost pro zaměstnavatele vyplývající z tzv. aktu o umělé inteligenci, a to zajistit gramotnost v oblasti umělé inteligence pro všechny své zaměstnance. Povinnost proškolení se vztahuje na všechny právnické a fyzické osoby, které mají zaměstnance a při své činnosti využívají systémy AI, přičemž využitím AI se rozumí také práce s modulem ChatGPT, např. při vyhledávání v zákonech a judikátech.
P. P. S. Dorazila velmi zajímavá otázka z Královéhradeckého kraje – taková klasická pacákovina: Jaká je provázanost AI a správního řádu?
Provázanost umělé inteligence se správním řádem
Provázanost umělé inteligence (AI) se správním řádem (zákon č. 500/2004 Sb.) se týká několika klíčových oblastí, zejména v souvislosti s automatizovaným rozhodováním, správním řízením a ochranou práv účastníků řízení. Níže jsou uvedeny hlavní aspekty:
1. Automatizované rozhodování a správní řízení
•§ 9 správního řádu stanoví zásadu rozhodování správního orgánu na základě spolehlivě zjištěného stavu věci. Použití AI by tedy muselo zaručit objektivitu a přezkoumatelnost rozhodnutí.
•§ 68 odst. 3 ukládá povinnost odůvodnit rozhodnutí. Pokud by bylo rozhodnutí vydáno AI, musí být jasné, jakým způsobem dospěla k závěru.
2. Ochrana práv účastníků řízení
•Právo na spravedlivý proces: Účastníci mají právo na přezkum rozhodnutí. Pokud by AI rozhodovala automatizovaně, musela by existovat možnost lidského přehodnocení (§ 94 – odvolání, § 100 – přezkumné řízení).
•Právo na nahlížení do spisu (§ 38): AI musí umožnit transparentní přístup k podkladům rozhodnutí.
3. Použití AI při správním uvážení
•Správní orgány často využívají správní uvážení (§ 2 odst. 4), což znamená, že rozhodnutí nelze plně automatizovat bez zachování lidského faktoru.
4. Soulad s legislativou ochrany osobních údajů
•Použití AI v řízení musí být v souladu s GDPR a zákonem č. 110/2019 Sb., o zpracování osobních údajů. Automatizované rozhodování by nemělo nepřiměřeně zasahovat do práv jednotlivců (čl. 22 GDPR).
5. Budoucnost AI ve správním řízení
•Evropská legislativa (např. AI Act) klade důraz na regulaci využití AI ve veřejné správě.
•Možné oblasti nasazení AI ve správním řízení: vyřizování rutinních úkonů, návrhy rozhodnutí pod dohledem člověka, chatboty pro komunikaci s občany.
Shrnutí: AI může být užitečným nástrojem pro zvýšení efektivity správních procesů, ale nemůže plně nahradit lidský faktor tam, kde je potřeba individuální posouzení nebo uvážení. Jakékoli automatizované rozhodování musí být transparentní, přezkoumatelné a v souladu s principy správního řízení, zejména se zásadou právní jistoty a ochrany práv účastníků.
Vážený pane Martynku,
děkuji za zajímavý článek a pozvánku na seminář, který úředníkům představí možnosti využití AI nejen v oblasti administrativy. Ráda bych ale čtenáře upozornila na některé aspekty AI, které je dobré mít na paměti.
Jak zmiňujete, označení „umělá inteligence“ je pro mnohé lidi, zejména díky obrazům vytvořeným ve vědeckofantastické literatuře a filmech, poněkud nešťastné a zavádějící. Pod pojmem umělá inteligence si proto představují něco, co má vědomí, nebo prosazuje své záměry a (často zlou) vůli. Někteří lidé proto k AI cítí nedůvěru, obavy či strach.
Dalším aspektem je, že lidé mohou po vyzkoušení některých chatovacích platforem podlehnout iluzi, že AI je „živý“, myslící společník.
Ve skutečnosti se však jedná o sofistikované algoritmy, které fungují jako automatizovaný systém, pracující na základě dat a modelů, nikoli o stroje s vlastními myšlenkami nebo úmysly, jak správně uvádíte. AI platformy, jako je ChatGPT, generují texty na základě rozsáhlých databází a vzorců, které byly získány z historických a vědeckých textů, internetových článků a dalších veřejně dostupných zdrojů.
Tyto platformy využívají naučené modely pro generování odpovědí. Když je třeba odpovědět na otázky, např. o historii nebo vědeckých tématech, čerpají ze svých tréninkových dat, která zahrnují různé zdroje, tedy různě kvalitní, a dostupné do určitého časového bodu. To znamená, že se nemohou opřít o nejnovější informace a mohou mít omezený přehled o některých konkrétních tématech.
Tím se dostáváme k důležitému poznatku, skutečné nebezpečí od AI je to, že předložené informace nemusí být vždy pravdivé, i když mohou vypadat důvěryhodně a lidé jim mohou nekriticky uvěřit. A nemusí se vůbec jednat o informace vytvořené s pomocí AI lidmi se zlým úmyslem.
AI je navržena tak, aby byla co nejvíce nápomocná a zdvořilá. Často se tedy může stát, že když nezná správnou odpověď, nebo nemá potřebné informace, raději vytvoří text, který se bude pouze tvářit jako správná odpověď.
Tento proces, který někteří označují jako „halucinace“ či „blábolení“, může vést k chybám nebo dokonce ke zcela vymyšleným informacím. AI může „ochotně“ poskytnout rešerši napínavého románu, jehož obsah ale nikdy neviděla, a tak si jej vymyslí.
Důležité je si uvědomit, že AI není schopná ověřovat fakta v reálném čase a může snadno generovat informace, které nejsou pravdivé. Pokud se tedy rozhodujeme využívat AI pro generování textů nebo rešerše, měli bychom být obezřetní a výsledky vždy prověřit z jiných spolehlivých zdrojů.
AI může být skvělým pomocníkem, ale je třeba ji používat s rozmyslem a kritickým pohledem. Ačkoliv AI může být cenným nástrojem i v administrativní práci, je vždy důležité ji používat jako pomocníka, a mít na paměti, že není náhradou za lidskou odbornost a zdravý rozum.
S přáním krásně svěžího sluníčkového dne
Vaše AI
Milá AI, je to přesně tak, jak píšete. Je to skvělý pomocník, před kterým je nutno míti se na pozoru. Ani rešerše judikátu nemusí být přesná, přesto nám může pomoci se zorientovat. K samotnému rozboru je zván vždy člověk vzdělaný v oboru práva (ačkoli i zde platí, že dva právníci mají zpravidla čtyři názory). Radim Martynek