Deepfake obsah začína byť pre spoločnosť čoraz nebezpečnejším prostriedkom. Dôkazom je prípad americkej speváčky Taylor Swift spred týždňa, ktorej anonym vytvoril nahé fotografie pomocou umelej inteligencie. Tie ihneď zaplavili sociálne siete. Skupina senátorov v USA sa preto rozhodla urýchlene konať a predložila návrh zákona umožňujúci stíhať takéhoto previnilca. Na tému upozornil portál The Verge.

Krehký X

Sociálnymi sieťami otriasol v predošlých dňoch škandál s falošnými nahými fotkami Taylor Swift vytvoreným prostredníctvom AI. Tým sa darilo predovšetkým na sociálnej sieti X, kde sa od prevzatia Elonom Muskom podstatne uvoľnili pravidlá pre zverejňovaný obsah a poklesol aj počet ľudských moderátorov.

„Najúspešnejší“ bol príspevok zo stredy večera, ktorý dosiahol až 45 miliónov zobrazení a na sieti visel približne sedemnásť hodín. X napokon situáciu ošetrila tak, že na istý čas zablokovala vyhľadávanie speváčkinho mena, no to vzniknutý problém vyriešilo len čiastočne a dočasne.

Ľudia budú môcť žalovať autora deepfake

Dlhodobejšie riešenie ponúkajú Americkí zákonodarcovia. Durbin, Graham, Klobuchar a Hawley prišli s návrhom zákona, ktorý by stanovil občianske právo na žalobu pre intímne „digitálne falzifikáty“ zobrazujúce identifikovateľnú osobu bez jej súhlasu.

To by obetiam umožnilo vymáhať finančne odškodnenie od každého, kto „vedome vytvoril alebo vlastnil“ obrazový materiál s úmyslom jeho šírenia.

„Zákony nedržia krok so šírením tohto urážlivého obsahu. Na zastavenie šírenia nekonsenzuálnych, sexuálne explicitných deepfakes, vytvára zákon DEFIANCE z roku 2024 federálny občiansky prostriedok nápravy pre obete, ktoré sú identifikovateľné v „digitálnom falzifikáte“, ktorý je definovaný ako vizuálne zobrazenie vytvorené pomocou softvéru, strojového učenia, umelej inteligencie alebo iných počítačovo vytvorených či technologických prostriedkov, ktoré sa falošne javia ako autentické,“ uvádza sa v návrhu Zákona o explicitne sfalšovaných obrázkov a nekonsenzuálnych úprav z roku 2024, skrátene DEFIANCE.

Vymklo sa to spod kontroly

Deepfake je na internetovej scéne od roku 2017. Odvtedy tento trend nielenže narástol na popularite, ale stal sa aj sofistikovanejším a dostupnejším. Už aj bežne dostupné nástroje umelej inteligencie umožňujú používateľovi vytvárať takýto falošný obsah, pričom je jednoduché obísť zabezpečenie proti vytváraniu explicitných obrázkov alebo odcudzeniu identity.

Najohrozenejšími sú predovšetkým celebrity a politici, no to nevylučuje, že terčom deepfake sa nemôže stať aj rádový občan.