EÚ poriadne pritvrdila. Zakáže najnemorálnejšie aplikácie na trhu

V tomto texte boli použité materiály SITA.

Európska únia reaguje na rastúci problém sexualizovaných deepfake videí a fotografií vytvorených pomocou umelej inteligencie. Po novej dohode medzi Európskym parlamentom a členskými štátmi dostanú takzvané „vyzliekacie aplikácie“ v EÚ stopku, ak generujú nahé snímky ľudí bez ich súhlasu.

Nové pravidlá prichádzajú v čase, keď sa podobné nástroje stávajú čoraz dostupnejšími a realistickejšími. Európski politici hovoria o jasnej hranici medzi technologickými inováciami a zneužívaním AI na poškodzovanie ľudí.

Rozhodnutie nadväzuje aj na nedávnu vlnu kritiky okolo chatbota Grok, za ktorým stojí Elon Musk. Používatelia upozorňovali na prípady, keď systém generoval nevyžiadané sexualizované obrázky zobrazovaných osôb. Práve podobné incidenty urýchlili tlak na sprísnenie európskej legislatívy.

„Európska únia dnes stanovila červenú čiaru. Umelá inteligencia nesmie byť nikdy používaná na ponižovanie, zneužívanie alebo ohrozovanie ľudí,“ uviedol podľa agentúry AFP europoslanec Michael McNamara. Zároveň zdôraznil, že EÚ vôbec prvýkrát explicitne zakazuje aplikácie určené na digitálne „vyzliekanie“ ľudí.

Čoraz väčší problém

Takzvané „nudify“ aplikácie fungujú na princípe generatívnej AI. Používateľ nahrá fotografiu človeka a systém následne vytvorí falošný nahý alebo sexualizovaný obraz. Hoci ide o digitálne manipulácie, výsledky bývajú natoľko presvedčivé, že môžu vážne poškodiť reputáciu, psychické zdravie aj súkromie obetí.

Najväčší problém spočíva v tom, že podobné nástroje sa začali masovo šíriť na internete a sociálnych sieťach. V mnohých prípadoch sú obeťami ženy, influencerky či neplnoletí používatelia. Európske inštitúcie preto upozorňujú, že bez jasných pravidiel môže byť zneužívanie AI obsahu ešte agresívnejšie.

Zákaz sa stane súčasťou širších úprav európskeho AI Actu, teda historicky prvého komplexného zákona o umelej inteligencii, ktorý EÚ prijala v roku 2024. Cieľom legislatívy je nastaviť pravidlá pre vývoj a nasadenie AI systémov naprieč celou úniou.

Brusel chce silnejší dohľad

Súčasťou novej dohody je aj odklad niektorých pravidiel pre vysoko rizikové AI systémy. Tie mali pôvodne začať platiť už od augusta 2026. Po novom sa termín pre samostatné AI systémy posúva na december 2027.

Európska komisia tvrdí, že úpravy majú firmám poskytnúť viac priestoru na adaptáciu a zároveň zabrániť tomu, aby regulácie príliš brzdili inovácie v oblasti umelej inteligencie. Napriek tomu Brusel signalizuje, že dohľad nad pokročilými AI modelmi bude výrazne prísnejší.

Prvé väčšie kompetencie získa od augusta 2026 aj nový Európsky úrad pre umelú inteligenciu (EU AI Office). Podľa hovorcov Komisie bude môcť v prípade potreby žiadať prístup k niektorým modelom, vrátane systému Mythos od spoločnosti Anthropic. EÚ tak naznačuje, že éra prakticky nekontrolovaného vývoja generatívnej AI sa v Európe postupne končí.