Povinnosti transparentnosti podle článku 50 Aktu EU o umělé inteligenci se uplatňují od 2. srpna 2026. Tento milník představuje vhodnou příležitost k prozkoumání praktické otázky: který obsah generovaný nebo manipulovaný umělou inteligencí musí být ve skutečnosti označen?
Pokyny Evropské komise poskytují praktické a nezávazné vodítko k provádění těchto povinností transparentnosti, aby se zajistilo důsledné a efektivní dodržování předpisů ze strany příslušných orgánů, poskytovatelů a zavádějících subjektů.
Přehled povinností transparentnosti
Článek 50 zavádí čtyři odlišné povinnosti transparentnosti v závislosti na typu systému umělé inteligence (AI) a jeho výstupu.
Kategorie systému AI | Odpovědná strana | Hlavní povinnost | Klíčové výjimky |
Interaktivní AI | Poskytovatelé | Informovat fyzické osoby, že interagují se systémem AI. | Zjevné interakce; účely vymáhání práva. |
Generativní AI | Poskytovatelé | Označovat výstupy ve strojově čitelném formátu a zajistit jejich detekovatelnost. | Standardní asistenční úpravy; účely vymáhání práva. |
AI pro rozpoznávání emocí / biometrii | Zavádějící subjekty | Informovat vystavené fyzické osoby o fungování systému. | Účely vymáhání práva. |
Deepfakes a texty pro veřejnost | Zavádějící subjekty | Zveřejnit, že obsah je uměle vytvořen nebo zmanipulován. | Běžné úpravy; lidská redakční kontrola (u textu); vymáhání práva. |
Klíčoví aktéři a výjimky
Akt o umělé inteligenci primárně rozděluje odpovědnost mezi dva hlavní aktéry, ačkoli některá použití spadají mimo jeho působnost:
Poskytovatelé (Providers) jsou subjekty, které vyvíjejí systémy AI a uvádějí je na trh nebo do provozu pod vlastním jménem nebo ochrannou známkou.
Zavádějící subjekty (Deployers) jsou subjekty nebo osoby, které používají systémy AI v rámci své pravomoci pro profesionální účely.
Povinnosti transparentnosti se nevztahují na zavádějící subjekty, které systémy AI používají pro čistě osobní, neprofesionální činnosti.
Systémy AI speciálně vyvinuté výhradně pro účely vědeckého výzkumu a vývoje jsou z těchto povinností vyloučeny.
Systémy AI vydané pod bezplatnými a open-source licencemi jsou vyňaty, pokud nespadají pod zakázané praktiky, vysokorizikové klasifikace nebo specifické povinnosti transparentnosti podle článku 50 AI Aktu.
Povinnosti podle článku 50 AI Aktu
1. Interaktivní systémy AI (článek 50 odst. 1 AI Aktu)
Poskytovatelé musí navrhovat systémy určené pro přímou interakci s lidmi (jako jsou chatboti nebo AI avataři) tak, aby uživatelé byli výslovně informováni, že jednají s umělou inteligencí. Tyto informace musí být poskytnuty nejpozději při první interakci. Povinnost se neuplatní, pokud je povaha AI zřejmá rozumně informované, pozorné a obezřetné osobě, nebo pokud je systém zákonem povolen pro účely vymáhání práva.
2. Označování a detekce syntetického obsahu (článek 50 odst. 2 AI Aktu)
Poskytovatelé systémů AI, které generují nebo manipulují se syntetickým zvukem, obrazem, videem nebo textem, musí implementovat technická řešení k označení výstupů ve strojově čitelném formátu. Dále musí zajistit, aby tyto výstupy byly detekovatelné jako uměle vytvořené. Tato technická řešení musí být účinná, interoperabilní, robustní a spolehlivá podle současného stavu techniky. Toto pravidlo se nevztahuje na systémy provádějící standardní úpravy nebo drobné změny, které podstatně nemění sémantiku vstupních dat.
3. Rozpoznávání emocí a biometrická kategorizace (článek 50 odst. 3 AI Aktu)
Zavádějící subjekty využívající systémy rozpoznávání emocí nebo biometrické kategorizace musí informovat fyzické osoby vystavené těmto systémům o jejich fungování. Tento požadavek má za cíl chránit soukromí a zajistit informovanost, přičemž se vztahuje na všechny takové systémy bez ohledu na to, zda jsou klasifikovány jako vysoce rizikové. Jedinou výjimkou jsou systémy právně povolené pro účely vymáhání práva.
4. Deepfakes a texty ve veřejném zájmu (článek 50 odst. 4 AI Aktu)
Zavádějící subjekty, které používají AI ke generování nebo manipulaci s obsahem, musí jasně zveřejnit jeho umělý původ. Konkrétní požadavky a testy do značné míry závisí na formátu obsahu:
Obrázky, zvuk a video (Deepfakes):
Příslušná povinnost se týká tzv. deepfakes. Klíčovou otázkou je, zda by obsah vygenerovaný nebo zmanipulovaný umělou inteligencí mohl lživě působit jako autentický nebo pravdivý. K běžným úpravám, jako je rutinní korekce barev, se nepřistupuje stejně a nevyžadují označení. Obsah, který obvykle vyžaduje zveřejnění, zahrnuje:
Fotorealistické portréty připomínající existující nebo pravděpodobně existující osobu.
Umělé scény připomínající skutečná místa, subjekty nebo události.
Podstatně pozměněné fotografie, které se zdají dokumentovat situaci, k níž nedošlo.
Realističtí AI avataři.
Klonované hlasy, které vytvářejí dojem, že osoba pronesla prohlášení, která ve skutečnosti neučinila.
Poznámka: Pro deepfakes, které jsou zjevně součástí uměleckých, kreativních, satirických nebo fiktivních děl, existuje zmírněný režim zveřejňování, pokud toto zveřejnění nebrání požitku z díla.
Publikování textu:
Text podléhá jinému testu. Text generovaný umělou inteligencí, který je publikován za účelem informování veřejnosti o záležitostech veřejného zájmu, je v zásadě zahrnut a jeho původ musí být zveřejněn.
Redakční výjimka: Povinnost zveřejnění se neuplatní v případě, že obsah prošel lidskou kontrolou nebo redakčním dohledem a redakční odpovědnost za jeho publikaci nese fyzická nebo právnická osoba.
Propagační obsah: Čistě propagační text obvykle do tohoto konkrétního ustanovení nespadá. Smíšený propagační a věcně informační obsah však může vyžadovat bližší posouzení, aby se určilo, zda se na něj povinnost označování vztahuje.
Závěr
Závěrem lze říci, že pokyny Evropské komise k článku 50 AI Aktu poskytují nezbytné objasnění pro orientaci v novém prostředí transparentnosti. Tím, že pokyny rozlišují mezi různými typy systémů AI, formáty obsahu a rolemi poskytovatelů a zavádějících subjektů, zajišťují odpovědné využívání umělé inteligence, aniž by docházelo k potlačování inovací. Vzhledem k tomu, že se tato pravidla již aktivně uplatňují, musí organizace pečlivě vyhodnocovat svůj obsah generovaný umělou inteligencí – zejména deepfakes a texty informující o záležitostech veřejného zájmu, aby zajistily plný soulad s předpisy a zachovaly si důvěru veřejnosti.
