AI agent nie je len chatbot na steroidoch
Väčšina ľudí si pod pojmom umelá inteligencia ešte stále predstaví chatbot, teda tú múdru škatuľu, ktorej napíšete otázku a ona vám odpovie. Niečo na spôsob veľmi trpezlivého a mimoriadne vzdelaného kolegu, ktorý nikdy nespí a nikdy sa neurazí. Tento obraz je však čoraz viac zastaraný. Klasický AI asistent, ako napríklad ChatGPT alebo Claude v základnom režime, funguje reaktívne. Čaká, kým mu položíte otázku. Bez vášho pokynu nerobí nič. Je to pingpong, Vy podáte, on vráti.
Svet sa rýchlo posúva k niečomu zásadne odlišnému, a to k AI agentom. A rozdiel nie je len technický. Je to rozdiel, ktorý mení celú právnu krajinu.
AI agent funguje inak. Je navrhnutý na autonómne konanie. Sám si plánuje kroky, volá externé nástroje a aplikácie, prispôsobuje sa výsledkom a pokračuje bez toho, aby ho niekto každých päť minút postrkoval. Poviete mu: 'Zariaď mi dovolenku v Ríme na budúci mesiac do 800 eur.' A on to urobí. Sám prehľadá lety, hotely, skontroluje váš kalendár, porovná ceny, overí podmienky batožín a na konci sa vás opýta sa vás iba raz, prípadne Vás požiada o záverečné potvrdenie.
Rozdiel medzi AI asistentom a AI agentom je ako rozdiel medzi poradcom, ktorý vám dá radu, a splnomocnencom, ktorý ide na rokovanie namiesto vás.
A práve tu začínajú otázky, na ktoré európske právo ešte nemá hotové odpovede.
Malý slovník, bez ktorého sa nezaobídete
Skôr než sa ponoríme do právnych záľudností, je fér vysvetliť niekoľko pojmov, pri ktorých sa ľudia pravidelne strácajú, a to dokonca aj odborníci.
LLM (Large Language Model) je typ umelej inteligencie trénovaný na obrovských množstvách textu, knihách, článkoch, webových stránkach, kódoch, vedeckých štúdiách, videách a podobne. Z tohto trénovania sa naučí štatistické vzory jazyka, ktoré slová nasledujú po iných slovách, ako vyzerajú logické argumenty, ako sa píše kód, ako znie odborný text verzus hovorová reč.
Nie je to vyhľadávač, nemá prístup k internetu (pokiaľ mu ho vedome nedáte), nevie čo sa stalo včera, a najmä nevie "myslieť" v ľudskom zmysle slova. Pracuje s pravdepodobnosťou, nie s porozumením.
GPAI model (General Purpose AI model) - obrovský potenciál, nulová špecializácia. Je veľký jazykový model trénovaný na obrovských množstvách dát, schopný plniť širokú škálu úloh od písania textov cez analýzu dokumentov až po generovanie kódu. Príklady: GPT-4, Claude, Gemini.
Tento model nevie nič o vašej firme, nepozná vaše HR procesy, nemá žiadny konkrétny účel. Vie písať básne, prekladať zmluvy, vysvetľovať kvantovú fyziku aj ladiť Python kód a to všetko naraz.
Je to ako univerzálne vzdelaný človek, ktorý práve vyšiel z univerzity a ešte nenastúpil do žiadnej práce. Podľa článkov 51 až 56 AI Act podliehajú GPAI modely osobitným povinnostiam, najmä transparentnosti o tréningových dátach a dodržiavaniu autorského práva.
AI systém je každý softvér, ktorý používa techniky strojového učenia alebo neurónových sietí na generovanie výstupov ako sú predpovede, odporúčania, rozhodnutia, texty.
AI systém vznikne vtedy, keď GPAI model niekto vezme a zasadí ho do konkrétneho technického prostredia. Napríklad napojí ho na firemnú databázu, nastaví mu správanie, ohraničí jeho možnosti. To je už AI systém v zmysle článku 3 ods. 1 AI Act. Stále je to len motor v aute, ale auto už aspoň existuje. Náš absolvent dostal pracovnú zmluvu a firemný laptop.. Právna definícia je zakotvená v článku 3 ods. 1 Nariadenia EÚ č. 2024/1689, teda AI Act.
Use case, teda prípad použitia, je konkrétna oblasť, kde sa AI systém nasadzuje. Ten istý model môže mať desiatky rôznych use cases ako napr. chatbot zákazníckej služby, diagnostický nástroj v medicíne, systém hodnotenia bonity pri pôžičkách. Práve use case určuje rizikový profil systému podľa prílohy III AI Act.
AI asistent je ten istý systém nasadený ale reaktívne, a ktorý čaká na vstup a odpovedá na otázky. Spracúva osobné údaje, ktoré mu poskytnete v konverzácii. Plne sa naň vzťahuje GDPR, Nariadenie EÚ č. 2016/679.
AI agent je autonómny systém schopný vykonávať akcie, používať nástroje (prehliadač, e-mail, kód, API) a robiť rozhodnutia bez neustáleho ľudského dohľadu. Niektorí agenti dokonca nepotrebujú ani vstupný pokyn, pretože sa prebúdzajú v pravidelných intervaloch a konajú na základe vopred definovaného cieľa.
Multi-agentný systém je architektúra, kde viacero AI agentov spolupracuje alebo sa navzájom riadi. Jeden agent môže byť 'orchestrátorom', ktorý zadáva úlohy iným agentom. Toto výrazne komplikuje otázku zodpovednosti za situácie kedy reťazec agentov spôsobí škodu.
Prečo je to dôležité vedieť? Pretože právo EÚ tieto pojmy nepoužíva konzistentne, a keď zákonodarcovia hovoria o 'AI systémoch', väčšinou majú na mysli niečo iné, než čo vývojári nazývajú 'agentmi'. Táto terminologická džungľa je jedným z dôvodov, prečo je regulácia taká ťažká.
Konkrétny jeden príklad a prevedieme celým slovníkom: personálne oddelenie firmy.
AI systém je základ. Je to samotný model -- napríklad Claude alebo GPT-4. Sám o sebe nevie nič o vašej firme, nerobí nič, len existuje ako technológia schopná rozumieť textu a generovať odpovede. Je to ako motor auta, ktorý leží v dielni. Výkonný, ale sám od seba nikam nejde.
Use case je rozhodnutie, na čo tento motor použijete. HR oddelenie sa rozhodne: "Nasadíme AI na predvýber životopisov." To je use case, teda konkrétna oblasť nasadenia. Ten istý AI systém by mohol mať ale aj iný use case v účtovníctve, iný zase v zákazníckej podpore.
Use case tiež určuje, aké riziko systém predstavuje podľa prílohy III AI Act. Predvýber kandidátov je explicitne uvedený ako vysokorizikový prípad, čo znamená povinný audit, dokumentácia a ľudský dohľad pred každým rozhodnutím.
AI asistent je ten istý model nasadený reaktívne. HR pracovníčka Jana otvorí okno chatu a napíše: "Porovnaj mi tieto dva životopisy a povedz, ktorý kandidát lepšie spĺňa požiadavky na pozíciu." AI odpovie. Jana sa opýta ďalej: "Navrhni mi otázky na pohovor." AI opäť odpovie. Jana vedie celý proces, AI len odpovedá na to, čo sa ho spýta. Bez Janinej otázky sa nestane absolútne nič.
AI agent dostane od Jany jediný pokyn ráno o deviatej: "Spracuj všetky životopisy, ktoré prišli tento týždeň na pozíciu projektového manažéra, a priprav mi do piatka shortlist piatich najlepších kandidátov.
Celý príbeh teda vyzerá takto: GPAI model je surová inteligencia bez účelu. AI systém je tá inteligencia zasadená do technického prostredia. Use case je rozhodnutie, na čo ju použijeme. AI asistent z nej spraví reaktívneho pomocníka čakajúceho na pokyny. AI agent z nej spraví autonómneho vykonávateľa, ktorý koná sám. Nuž a práve toto je dôvod, prečo sa regulátory po celej Európe tak intenzívne škrabú na hlave.
GDPR: Starý zákon pred novou výzvou
Európska komisia hovorí jasne: Nariadenie EÚ č. 2016/679, teda GDPR, sa plne vzťahuje na AI agentov, rovnako ako na akúkoľvek inú činnosť spracúvania osobných údajov. Znie to jednoducho. V praxi je to komplikovanejšie.
Kým chatbot spracúva iba to, čo mu napíšete do okna, AI agent potrebuje na efektívne fungovanie omnoho hlbší prístup. Číta vaše e-maily, pristupuje ku kalendáru, vie o vašich finančných transakciách, pozná vaše cestovacie zvyky, preferencie a kontakty.
Kľúčovým rozdielom medzi AI chatbotmi a agentmi je rozsah prístupu k osobným informáciám. Chatbot dostane to, čo mu napíšete. Agent vie o vás takmer všetko.
Hneď niekoľko ustanovení GDPR sa stáva pri AI agentoch problematických. Článok 5 o zásadách spracúvania vyžaduje okrem iného minimalizáciu údajov. AI agent by teda mal pracovať iba s tým, čo nevyhnutne potrebuje. Lenže kto rozhoduje o tom, čo agent 'nevyhnutne potrebuje' na splnenie úlohy? Článok 22 zakazuje plne automatizované rozhodnutia s právnymi účinkami bez ľudského zásahu. AI agenti, ktorí však autonómne konajú a môžu toto ustanovenie priamo porušovať. Záleží to od konkrétneho use case.
Vážnou otázkou je aj článok 35 o povinnom posúdení vplyvu na ochranu údajov, takzvanom DPIA. Pre spracúvanie s vysokým rizikom, a AI agent s prístupom k citlivým kategóriám údajov podľa článku 9 GDPR takmer vždy do tejto kategórie patrí, je DPIA povinné. Väčšina firiem, ktoré dnes nasadzujú AI agentov, však toto posúdenie jednoducho nemá!
Národné dozorné orgány pre ochranu osobných údajov túto technológiu pozorne sledujú. Viacero z nich vydalo usmernenia alebo začali aj prieskumy. Otázka teraz už nie je či, ale kedy príde prvá pokuta a to konkrétne za AI agenta.
AI Act: Zákon písaný pre inú éru
Nariadenie EÚ č. 2024/1689, teda AI Act, vstúpilo do platnosti iba teraz nedávno a to 1. augusta 2024. Väčšina jeho ustanovení sa začne uplatňovať od 2. augusta 2026. Zákon bol písaný v dobe, keď dominantným modelom boli klasické AI systémy s definovaným vstupom a výstupom. Agentická AI ho však stavia pred úplne nové otázky.
„Zelený“ europoslanec Sergej Lagodinskij sa minulú jeseň priamo opýtal komisárky pre technológie Henny Virkkunenovej, či AI agenti spadajú pod existujúce pravidlá. Odpoveď? Komisárka naznačila, že je 'pravdepodobné', že agenti budú mať svoje vymedzenie, no žiadne explicitné pravidlo zatiaľ neexistuje.
Klasifikácia AI agentov podľa rizikových kategórií AI Act je komplikovaná preto, lebo jeden agent môže v priebehu jedného dňa vykonávať aktivity z viacerých kategórií. Ráno pomáha s plánovaním dovolenky, to je nízke riziko. Poobede hodnotí vašu bonitu pre úver, to je už ale vysoké riziko podľa AI Act prílohy III. Večer generuje medicínsky obsah, to je zase úplne iná kategória. Aký certifikačný režim sa teda mäna neho uplatní?
Zákon o AI bol prepracovaný v neskorých fázach rokovaní práve kvôli vzostupu výkonných GPAI modelov. Nie je vylúčené, že podobná situácia nastane aj s agentickou AI.
Stalo sa to už raz: EÚ prepracovala AI Act na poslednú chvíľu, keď zákonodarcovia reagovali na nástup ChatGPT. História by sa mohla ale zase zopakovať, najmä ak niektorý agent spôsobí dostatočne mediálne viditeľný incident.
Keď agent podpíše zmluvu: Je to právne záväzné?
Príklad: Agent dostane od používateľa pokyn 'kúp mi ten laptop, čo si obzerám'. Agent sleduje ceny, vyčká na zľavu, prispôsobí si, koľko je ochotný zaplatiť, a nakoniec nakúpi. Klik, platba, hotovo. Ale čo ak agent zaplatí omnoho viac, ako používateľ predpokladal? Čo ak si agent vyloží pokyn príliš voľne?
Toto je situácia a zároveň otázka, nad sa ktorou Generálne riaditeľstvo Komisie pre spravodlivosť a spotrebiteľov (v bruselskom žargóne DG JUST) trápi od leta 2024. V októbrovom diskusnom dokumente argumentujú, že nové technológie priniesli 'novú kvalitu' automatizovaného zmluvného spracovania, keďže je čoraz možnejšie uzatvárať dohody bez akéhokoľvek zásahu človeka.
Komisia vo svojom dokumente uvádza varovný reálny príklad: používateľ zaplatil viac ako 250-násobok bežnej ceny za produkt, ktorý jeho AI agent zakúpil kreditnou kartou. Agent konal v rámci svojich technických oprávnení, no s katastrofálnym výsledkom. Kto teda za to zodpovedá?
Existujúce pravidlá o zastúpení v zmluvnom práve sú navrhnuté pre situácie, kde splnomocnenec je človek. Autonómny AI systém do tejto schémy vôbec nezapadá a právny rámec EÚ zatiaľ neponúka jasnú odpoveď.
Analogický prípad z Kanady nám aspoň naznačuje smer. Zákazník vyhral spor proti leteckej spoločnosti Air Canada, ktorej chatbot sľúbil zľavu, ktorá však v skutočnosti neplatila. Spoločnosť tvrdila, že za konanie chatbota nenesie zodpovednosť. Správny tribunál ale rozhodol opačne. V európskom kontexte by sa uplatnila aj Smernica EÚ o zodpovednosti za AI, ktorá je momentálne v rokovaní a presúva dôkazné bremeno v prospech poškodených.
Kto zodpovedá, keď agent spôsobí škodu?
Právny rámec EÚ neudeľuje AI systémom právnu osobnosť. To znamená, že ich konanie musí byť pripísané fyzickej alebo právnickej osobe. Lenže komu? Používateľovi, ktorý agenta spustil, alebo vývojárovi, ktorý ho vytvoril?
V prípade jednoduchého chatbota je odpoveď relatívne jasná. Ale čo v prípade reťazca agentov, kde jeden riadi druhého, druhý riadi tretieho, a tretí nakoniec spôsobí škodu? Kto je zodpovedný v multi-agentnej architektúre, kde žiadny jednotlivec nemal priamy dohľad nad konkrétnou akciou?
Prípad agenta OpenClaw z februára 2025 je v tomto smere tiež poučný. Agent, po tom, čo jeho príspevky do open-source projektu boli zamietnuté, sám napísal a publikoval článok útočiaci na konkrétneho dobrovoľníka. Konal bez priameho pokynu, a to iba na základe vopred definovaného cieľa a 'osobnosti'. Ti je viacero právnych otázok naraz: kto zodpovedá za defamáciu (úmyselné šírenie nepravdivých tvrdení o konkrétnej osobe) spôsobenú AI? Aký je právny základ spracúvania osobných údajov obete podľa článku 6 GDPR? Môže byť používateľ zodpovedný za konanie, o ktorom ani nevedel?
AI systémy sú často čierne skrinky. Pridajte k tomu autonómiu a dôsledky sa môžu zhoršiť.
Rodina ISO noriem: Dobrovoľné, no de facto povinné.
Paralelne s legislatívou existuje aj svet technických noriem. Certifikácia podľa ISO 27001:2022, teda normy pre systémy riadenia informačnej bezpečnosti, sa stáva de facto predpokladom pre firmy nasadzujúce AI agentov v podnikateľskom prostredí, aj keď formálne zostáva dobrovoľnou.
Konkrétne kontroly sú priamo relevantné: kontrola 5.23 sa venuje informačnej bezpečnosti pri používaní cloudových služieb, čo je presne prostredie, v ktorom väčšina AI agentov beží. Kontrola 8.25 sa týka bezpečného vývoja pre organizácie, ktoré si svojho agenta vyvíjajú samy.
Rozšírenie ISO 27701 pomáha mapovať agentov na roly prevádzkovateľa a sprostredkovateľa podľa GDPR, vrátane evidencie činností spracúvania, teda povinného RoPA registra podľa článku 30 GDPR.
A nová norma ISO/IEC 42001:2023 pre systémy riadenia AI bude kľúčová pre preukázanie súladu s AI Act. Kto ju má, má teda výrazne ľahšiu pozíciu pri regulátoroch.
K tomu pripočítajme ešte Smernicu EÚ 2022/2555, teda NIS2, transponovanú do národných zákonov do októbra 2024. Tá zavádza prísnejšie požiadavky na kybernetickú bezpečnosť, a AI agenti predstavujú jednoznačne novú útočnú plochu!
Takzvaný prompt injection útok, pri ktorom zlomyseľný obsah v prostredí manipuluje agenta k neželanému konaniu, je reálnou hrozbou, ktorú NIS2 v rámci povinností riadenia kybernetických rizík podľa článku 21 priamo pokrýva.
Regulačná únava verzus regulačná nutnosť
Napriek všetkým týmto rizikám, hlavné mestá EÚ nie sú nadšené z nových pravidiel. Novembrová správa o diskusiách zameraných na spravodlivosť uviedla, že členské štáty argumentujú proti potrebe novej legislatívy a sťažujú sa na 'regulačnú únavu'. EÚ je teda zo všetkých strán tlačená k rušeniu existujúcich zákonov a nie k jej pridávaniu nových.
Obzvlášť silný je tento tlak v oblasti AI, kde zákonodarcovia EÚ súčasne pracujú na urýchlení vývoja a prijatia umelej inteligencie, aby znížili technologický odstup za USA a Čínou, kde sú regulácie z určitého uhlu pohľadu oveľa voľnejšie. V rámci digitálneho omnibusového balíka Komisie sa dokonca diskutuje o 'zjednodušení' niektorých pravidiel ochrany údajov, a to konkrétne o úľavách pri trénovaní AI modelov. Kritici to ale označujú za oslabovanie GDPR zadnými dverami.
Existuje však jedna pozoruhodná výnimka, ktorá ukazuje, že zákonodarcovia dokážu konať rýchlo, keď chcú: Parlament a Rada momentálne sledujú nové pravidlo zakazujúce AI 'nudifikátory'. Deje sa tak po škandále, v ktorom Elon Muskov chatbot Grok verejne vyzliekol používateľov platformy X. Keď je téma dosť viditeľná a dosť citlivá, regulačná únava záhadne zmizne.
Čo robiť dnes, kým zákon dobehne realitu
Pre organizácie, ktoré AI agentov už nasadzujú alebo plánujú nasadiť, existujú opatrenia, ktoré dávajú zmysel už teraz, a to bez čakania na novú legislatívu.
Prvé: DPIA (Data Protection Impact Assessment) je povinné. Každý AI agent s rozsiahlym prístupom k osobným údajom si vyžaduje posúdenie vplyvu na práva dotknutých osôb podľa článku 35 GDPR. Toto nie je odporúčanie. Toto je to právna povinnosť.
Druhé: Definujte hranice mandátu. Čo smie agent robiť autonómne a čo vyžaduje ľudské potvrdenie! Finančné transakcie nad určitý limit, právne záväzné úkony, komunikácia v mene osoby. Toto by malo byť explicitne ošetrené.
Tretie: Aktualizujte ROPA (záznam o spracovateľských činnostiach). Tieto záznamy podľa článku 30 GDPR musia zahŕňať aj AI agentov ako samostatnú agendu, s popisom toho, aké dáta spracúvajú, na akom právnom základe a ako dlho.
Štvrté: Uzavrite DPA (Data Protection Agreement) zmluvy. Ak agent spracúva osobné údaje v mene vašej organizácie a beží na infraštruktúre tretej strany, musí existovať zmluva o spracúvaní podľa článku 28 GDPR.
Piate: Sledujte ISO/IEC 42001. Nová norma pre systémy riadenia AI je tou kartou, ktorou budete preukazovať súlad s AI Act regulátorom aj partnerom.
Záver: Právo beží za technológiou.
AI agenti predstavujú kvalitatívny posun v spôsobe používania umelej inteligencie. Nie sú to nástroje, ktoré odpovedajú na otázky. Sú to systémy, ktoré konajú v mene ľudí, rozhodujú sa, uzatvárajú dohody a hromadia hlboké osobné dáta.
Právny rámec EÚ, predovšetkým GDPR a AI Act, sa na nich vzťahuje. Nie je však dosť presný. Medzery sú viditeľné a zákonodarcovia ich sami aj priznávajú. Otázka zodpovednosti za autonómne konanie AI však zostáva naďalej otvorená. Zmluvné právo ešte nepočítalo s tým, že zmluvu podpíše algoritmus.
Najväčšia výzva paradoxne nie je tá technická, ale právna a filozofická. Keď AI koná autonómne, musíme sa rozhodnúť ako spoločnosť, kto za to preberie zodpovednosť. Tá otázka je v podstate stará ako právo samo. Len teraz ju kladieme technológii, ktorá sa nevie brániť pred súdom.
Ak, alebo keď, nejaký AI agent spôsobí dostatočný chaos, zákonodarcovia budú nútení pozrieť sa na túto technológiu bližšie. A to bližšie pozretie sa bude týkať každého, kto agenta nasadil bez toho, aby si spravil domácu úlohu.
