Co je to EU KIDS ACT a proč potřeba jeho vytvoření vznikla?
Představte si, že byste své dítě nechali samotné bloudit v neznámém městě. To většině příčetných rodičů přijde nepředstavitelné, ale jak je to v digitálním světě? Tam rodiče často tápou a někdy zvolí raději strategii „pštrosa s hlavou v písku“.
Evropská komise se rozhodla s tímto digitálním západem skoncovat a představila nový návrh nařízení – EU KIDS Act. Proč jde o tak významnou právní úpravu? Návrh dále posouvá odpovědnost za bezpečnost dětí v digitálním prostředí směrem k samotným poskytovatelům digitálních služeb a systémů. Navazuje přitom na stávající pravidla, zejména Digital Services Act a AI Act, a doplňuje je o konkrétní požadavky zaměřené na ochranu nezletilých. Klíčovou zásadou je „safe by design“, který provozovatelům ukládá povinnost koncipovat své produkty tak, aby byly pro nezletilé bezpečné již ve svém výchozím nastavení (např. automatickým vypnutím geolokačních funkcí či zamezením nekonečného načítání obsahu). Odpovědnost velkých platforem bude navíc posílena povinností proaktivně prokazovat soulad jejich architektury s nejvyšším zájmem dítěte.
Jak EU KIDS Act reaguje na obcházení pravidel a falešný věk?
Nastavení rodičovských filtrů a aplikací pro kontrolu aktivity dětí naráží na zásadní bariéru – fenomén falešného věku. V praxi stačí minimální snaha ze strany nezletilého, aby zadáním nepravdivého data narození veškerá ochranná opatření rodičů obešel. Toto se nový EU KIDS Act snaží eliminovat prostřednictvím odstupňovaného přístupu k digitálnímu obsahu. Třístupňový model striktně reaguje, k jakým službám a v jakém věku smí děti přistupovat. Zásadní změna však spočívá v tom, že nařízení přenáší povinnost kontroly z rodičů na provozovatele platforem. Technologické firmy budou nově muset implementovat spolehlivé a bezpečné nástroje pro ověřování věku (tzv. age verification), čímž by mělo dojít k efektivnímu zamezení podvádění s datem narození.
Návrh nařízení počítá se zavedením pravidel pro věkové dospívání na internetu:
• Do 13 let: Děti nemají mít přístup k sociálním sítím, a tak jsou klasické sítě jako TikTok nebo Instagram pro tuto věkovou skupinu zcela zakázané. Výjimku představují speciálně navržené dětské služby pro sdílení videí, k nimž mohou přistupovat prostřednictvím účtu vytvořeného a spravovaného ze strany rodiče.
• 13 až 15 let: Nastupuje režim takzvaných „mini-účtů“. Účet sice patří teenagerovi, ale zakládá a spravuje ho rodič. Počítá se s nastavením maximálního stráveného času na sociální síti na jednu hodinu denně. Každého sledujícího nebo nového kamaráda musí rodič manuálně odklepnout.
• 15 až 18 let: Mladiství získávají autonomii, ale s neviditelným ochranným štítem. Algoritmy jim nesmí nabízet rizikový obsah a jejich data se nesmí zneužívat pro cílenou reklamu.
Jak chce EU dodržování věku kontrolovat?
Záměr je to hezký, ale klíčovou otázkou je, jak chce EU dodržování věku kontrolovat a zda to platformy dokážou spolehlivě zařídit. Technologických řešení se nabízí hned několik a každé má své výhody i rizika. První cestou je tvrdé ověření identity pomocí Evropské peněženky digitální identity nebo bankovních údajů. Druhou možností jsou biometrické technologie, které odhadnou věk podle obličeje, aniž by ukládaly osobní data. Třetí směr sází na analýzu chování za pomocí algoritmů.
Zákaz „digitálních drog“
Pro ochranu dětí je potřeba zmínit, že návrh nařízení zavádí plošný zákaz nekonečného scrollování a automatického přehrávání videí. Návrh nařízení vychází z premisy, že když obsah nikdy nekončí, tak dětský mozek ještě nedokáže říct „dost“ a činnost ukončit. Nově by tak sítě musely po určité době uměle přerušit.
Další novinkou je „noční klid zbraní“. To bude znamenat, že mezi 22.00 až 8.00 ráno mají platformy přísný zákaz posílat dětem push notifikace. Zakázány budou také mechaniky trestající absenci např. populární plamínky na Snapchatu, které mohou v dětech vyvolávat úzkost, když nebudou stále na příjmu.
Posílení ochrany
Doposud ležela významná část odpovědnosti za bezpečné používání digitálních služeb na uživatelích a rodičích. EU KIDS Act tento přístup posouvá dál a staví do popředí princip „safe by design“ neboli bezpečnosti již od návrhu. Zejména velké online platformy budou muset aktivně prokazovat, že jejich služby jsou navrženy tak, aby byly pro děti bezpečné. Návrh proto počítá mimo jiné s předkládáním plánů souladu a jejich nezávislým auditem.
Důraz se přitom klade i na algoritmy a doporučovací systémy. Platformy mají bránit tomu, aby jejich nastavení podporovalo návykové používání nebo vedlo děti do nebezpečných „králičích nor“ škodlivého obsahu. Pokud poskytovatel nové povinnosti nesplní, může čelit vysokým sankcím
AI jako dobrý sluha, ale falešný kamarád
Děti využívají AI chat boty nejen ke studiu a vyhledávání materiálů, ale často jako společníka a důvěrného kamaráda. Z pohledu regulace je důležité zmínit riziko tzv. Eliza efektu, tedy tendenci vnímat komunikaci s chatbotem jako skutečný mezilidský vztah a připisovat umělé inteligenci porozumění, empatii nebo osobní zájem. Čím přesvědčivěji a vstřícněji chatbot komunikuje, tím snáze se může stát pro mladého uživatele prostředím, do něhož se opakovaně vrací pro podporu, pochopení či ujištění. Rizikem pak není jen vznik určité formy závislosti na této interakci, ale také postupné oslabování významu skutečných mezilidských vztahů, které jsou ze své podstaty složitější a méně předvídatelné. Jde proto nejen o otázku ochrany osobních údajů nebo bezpečnosti technologií, ale o širší společenský problém spojený s tím, jaký vztah si děti vytvářejí k umělé inteligenci a zda AI nezačíná nahrazovat skutečné lidské vazby a přátelé z masa a kostí.
Daň za bezpečí dětí?
Snaha o zvýšení ochrany dětí v digitálním prostředí je v současnosti prioritou evropské legislativy, avšak s ambiciózní regulací přicházejí i vážné otázky ohledně jejich vedlejších dopadů. Hlavní vlna kritiky se zaměřuje na potenciální narušení soukromí dospělých uživatelů. Efektivní kontrola věku totiž ze své podstaty vyžaduje plošné ověřování – platforma musí identifikovat věk každého uživatele, aby dokázala rozlišit, zda někomu je 13 nebo 40 let.
Zatímco pro nadnárodní poskytovatele digitálních služeb bude zavedení pravidel znamenat pouze přechodné zvýšení nákladů na compliance, pro menší subjekty může mít nařízení fatální následky. Typickým příkladem jsou malé internetové komunity či nezávislé herní servery. Ty často nedisponují finančními prostředky na implementaci certifikovaných systémů pro ověřování věku, což pro ně v praxi může být až likvidační.
