Španielsko chráni obete AI manipulácií. Prichádza zákon proti deepfake p*rnografii

V nasledujúcom článku boli použité materiály TASR.

Španielska vláda predstavila návrh zákona, ktorý by kriminalizoval používanie umelej inteligencie (AI) na vytváranie p*rnografických videí bez súhlasu zobrazených osôb. Minister spravodlivosti Félix Bolaňos uviedol, že takzvané deepfake videá s nevhodným obsahom alebo vážne urážlivého charakteru budú podľa návrhu považované za „ zločiny proti morálnej integrite”.

Nové opatrenie je súčasťou širšieho balíka zákonov, ktorého cieľom je ochrániť mladých ľudí pred nebezpečenstvami digitálnych technológií a posilniť právo na súkromie. Vláda plánuje nielen postihovať páchateľov, ale aj zaviesť prevenciu — napríklad povinnosť pre výrobcov smartfónov a tabletov, aby ich zariadenia obsahovali predinštalované systémy rodičovskej kontroly.

Okrem toho by návrh zákona prinútil internetových influencerov zaviesť systémy overenia veku pre svojich sledujúcich, čím by sa obmedzil prístup neplnoletých k nevhodnému obsahu.

Rastúci problém deepfake obsahu

V posledných rokoch Španielsko zaznamenalo viacero prípadov zneužitia deepfake technológií, pri ktorých boli vytvorené falošné p*rnografické fotografie a videá neplnoletých dievčat. Tieto materiály boli následne šírené online alebo použité na vydieranie a vyhrážanie sa obetiam.

Podľa štúdie holandskej spoločnosti Sensity z roku 2019 až 96 percent deepfake videí na internete tvorí pornografia bez súhlasu zobrazených osôb, pričom väčšina obetí sú ženy. Tento trend sa s rozvojom AI technológií ešte viac zhoršuje, pretože nástroje na tvorbu falošného obsahu sú čoraz dostupnejšie a jednoduchšie na použitie.

Printscreen/YouTube

Prevencia a prísne tresty

Navrhovaný zákon by teda umožnil nielen trestné stíhanie páchateľov, ale zároveň aj rýchle odstránenie takýchto materiálov z online platforiem. Tresty za vytvorenie a šírenie deepfake p*rnografie by podľa návrhu mohli siahať od vysokých pokút až po viacročné väzenie v závislosti od závažnosti prípadu.

Španielska vláda týmto krokom reaguje na naliehavú potrebu legislatívnej ochrany pred novými formami digitálneho zneužívania, ktoré sa šíria rýchlejšie, než ich dokáže zastaviť existujúci právny rámec. Ak parlament návrh schváli, Španielsko sa stane jednou z prvých krajín, ktoré podnikli takto rázne kroky v boji proti deepfake p*rnografii.