Európska únia podniká rázne kroky proti kontroverznej umelej inteligencii

V tomto texte boli použité materiály SITA.

Európska únia pritvrdzuje voči umelej inteligencii Elona Muska. Po škandále so sexualizovanými deepfake obrázkami, vrátane snímok maloletých, si Brusel posvieti na chatbot Grok fungujúci na sociálnej sieti X. Európska komisia nariadila platforme uchovať všetky interné dokumenty a dáta súvisiace s týmto nástrojom minimálne do konca roka 2026, aby ich mohli regulátori použiť pri prebiehajúcom vyšetrovaní.

Podľa hovorcu EÚ pre digitálne záležitosti Thomasa Regniera ide o nevyhnutný krok na zabezpečenie dôkazov. Rozhodnutie nadväzuje na starší príkaz, ktorým Komisia už minulý rok žiadala sprístupnenie informácií o algoritmoch a odporúčacích systémoch platformy X v súvislosti so šírením nelegálneho obsahu.

Kontroverzia okolo Groku vypukla po spustení funkcie „edit image“, ktorá umožňovala upravovať existujúce fotografie pomocou jednoduchých textových príkazov. Používatelia tak mohli obrázky ľudí sexuálne upravovať, vrátane odstránenia oblečenia, a to aj bez súhlasu dotknutých osôb. Na sociálnych sieťach sa rýchlo objavili prípady zneužitia, ktoré vyvolali ostrú kritiku zo strany politikov aj ochrancov práv detí.

Európska únia označila takéto výstupy za nelegálne a neprijateľné. Platforma X je pritom vyšetrovaná podľa zákona o digitálnych službách (DSA) už od decembra 2023. Brusel vlani v decembri udelil spoločnosti pokutu 120 miliónov eur za porušenie povinností v oblasti transparentnosti, najmä za zavádzajúce používanie modrého overovacieho odznaku a odmietanie sprístupniť dáta výskumníkom. Vyšetrovanie však pokračuje aj v oblastiach šírenia nelegálneho obsahu a manipulácie informácií.

„DSA je v Európe jasný. Všetky platformy si musia dať svoje záležitosti do poriadku. Dodržiavanie práva EÚ nie je voľba, ale povinnosť,“ zdôraznil Regnier. Podľa Komisie nebude EÚ ustupovať ani pod tlakom zo zahraničia, vrátane kritiky zo strany americkej administratívy.

Na tvrdší postup voči Muskovej platforme tlačia aj europoslanci. Viac než 30 zákonodarcov z liberálnej frakcie Obnovme Európu vyzvalo predsedníčku Komisie Ursulu von der Leyenovú, aby Brusel konal rýchlejšie a dôraznejšie.

Slovenská europoslankyňa Veronika Cifrová Ostrihoňová upozorňuje, že problém sa netýka len celebrít či verejne známych žien. „Všetky fotografie vás alebo vašich detí, ktoré sa kedy objavili na Facebooku či Instagrame, sú len jedno kliknutie od toho, aby sa na Groku zmenili na pornografiu,“ varovala. Prípad Groku tak podľa nej ukazuje, ako rýchlo sa môžu nové AI nástroje vymknúť spod kontroly, ak im chýbajú dostatočné bezpečnostné zábrany.