Zneužitie deepfake technológie sa stáva v online svete čoraz väčším problémom, ktorý zdá sa nemá riešenie. Nedávno sme upozornili na vytváranie falošného porna, v ktorom boli tváre žien nahradené tvárami herečiek a známych osobností. Deepfake využíval podľa správy spoločnosti Sensity aj četovací bot v aplikácii Telegram, ktorý upravil fotky státisícov žien. Pomocou softvéru im odstránil oblečenie, informoval Wired.

Technológia deepfake dokáže s využitím umelej inteligencie pobaviť, ale tiež napáchať obrovské škody. Nie sú to len video paródie s tvárami známych osobností, ktoré môžu pôsobiť neškodne a pobaviť verejnosť.

Mnohokrát, pokiaľ si dá autor skutočne záležať, je výsledok úpravy záberov pomocou deepfake dostatočne reálny, aby mu uverilo množstvo ľudí. Takýmto spôsobom je potom možné upravovať vystúpenia politikov, hercov a ďalších známych ľudí.

Deepfake má však čoraz väčšie uplatnenie najmä v porno priemysle, kde je táto technika zneužívaná na úpravu erotických záberov, v ktorých sú pridané tváre populárnych osobností.

V poslednom období takéto množstvo videí rapídne rastie a za uplynulý rok sa počet falošných porno videí upravených pomocou deepfake viac ako strojnásobil. Až 96 % všetkých deepfake videí dostupných na internete je pritom erotických. Technológiu na úpravu videí ale nedávno využil aj bot v známej četovacej aplikácii, ktorý pomocou nej upravil fotografie státisícov žien.

Telegramom sa šíria falošné fotky nahých žien

Softvér dokázal na základe zverejnenej fotky upraviť osobu tak, aby vyzerala nahá, teda odstránil oblečenie, no zachoval tvár. Týmto spôsobom malo byť kompromitovaných vyše 104 000 žien na fotografiách len od júla tohto roka. Bot na Telegrame zneužíval dostupné fotografie a upravoval ich, pričom sa ďalej šírili medzi používateľmi.

Takýto nástroj je navyše dostupný zadarmo, jednoducho sa používa a bezplatný prístup k nemu môže nanešťastie získať ktokoľvek. Používatelia teda mohli pomocou deepfake upraviť fotografie svojich známych a ďalej ich zdieľať. V niektorých prípadoch však nemali ženy na fotkách ani 18 rokov.

Bot v aplikácii každodenne vydával nový album s upravenými fotografiami pre ľudí v skupine, ktorá zahŕňala až 25 000 členov. Takéto zbierky falošných fotiek boli videné bezmála aj 3000-krát behom krátkej doby. Na Telegrame dokonca existuje aj samostatný kanál, ktorý tohto bota využívajúceho deepfake na vytváranie nahých fotografií žien propaguje.

Sleduje ho až 50 000 používateľov. Hoci sa teda problém spája so spomínaným botom, svoju rolu pri šírení obsahu a zdieľaní tohto nástroja zohrala aj táto četovacia aplikácia. Podľa vyjadrení riaditeľa a zakladateľa bezpečnostnej spoločnosti Sensity ide zrejme o prvý prípad, kedy bola deepfake technológia využitá v tak obrovskom rozsahu.

Problém môže mať ďalekosiahly dopad

Ženy na fotografiách pritom mnohokrát ani len nevedeli, že ich softvér „vyzliekol“ a že sa ich upravené nahé fotografie šírili ďalej. Takéto zistenie však môže mať zásadný dopad na psychiku a taktiež sa môžu ženy stať terčom obťažovania. Podľa štúdie organizácie Plan International sa obeťou obťažovania na internete stalo až 58 % zo 14 000 opýtaných žien.

Autori štúdie tiež zaznamenali regionálne rozdiely. V Európe priznalo obťažovanie na internete 63 % opýtaných, v Latinskej Amerike 60 %, v ázijsko-tichomorskej oblasti 58 %, v Afrike 54 % a v Severnej Amerike 52 %, informovala agentúra TASR.

Hoci sú niektoré výsledky pri úprave fotografií botom podľa zistení BBC nekvalitné a nepôsobia vôbec realisticky, v niektorých prípadoch dokázala deepfake technológia vytvoriť aj vierohodné úpravy s detailným zobrazením nahých žien. Obeťou sa pritom mohol stať každý, stačilo mať na Telegrame založený účet s vlastnými fotografiami. Úprava fotografií však údajne fungovala len v prípade žien.

Aplikácia na vytváranie nahých fotografií tu bola aj pred rokom

Podobná aplikácia s názvom DeepNude sa objavila ešte v minulom roku, informoval Vice. Nebola však bezplatná, používatelia za ňu museli zaplatiť 50 dolárov. Kvôli obavám ju však jej autor stiahol z obehu, no dovtedy si ju stiahlo celkovo 95 000 ľudí. Podľa niektorých tvrdení je spomínaný bot na Telegrame cracknutou verziou DeepNude.

Kód tak mohol byť skopírovaný a využitý aj pri úprave fotiek v tejto četovacej aplikácii. Telegram sa k tejto situácii doteraz nevyjadril a svoje stanovisko odmietol publikovať aj po upozornení bezpečnostnou spoločnosťou Sensity, ktorá problém so šíriacimi sa nahými fotkami odhalila.

Aplikácia má síce vo svojich pravidlách uvedený zákaz šírenia nelegálneho obsahu, ktorý zahŕňa aj nahé fotografie, či využívanie botov. Problémom však je odstránenie takéhoto obsahu, ktorý sa do zásahu prevádzkovateľa môže rozšíriť medzi množstvo používateľov.

Ďalšie zaujímavé články z oblasti deepfake technológie:

Pošli nám TIP na článok



Teraz čítajú

Články, ktoré hýbu svetom