Bot v četovacej appke zneužil fotky státisícov žien. Pomocou softvéru ich „vyzliekol“ donaha
Zneužitie deepfake technológie sa stáva v online svete čoraz väčším problémom, ktorý zdá sa nemá riešenie. Nedávno sme upozornili na vytváranie falošného porna, v ktorom boli tváre žien nahradené tvárami herečiek a známych osobností. Deepfake využíval podľa správy spoločnosti Sensity aj četovací bot v aplikácii Telegram, ktorý upravil fotky státisícov žien. Pomocou softvéru im odstránil oblečenie, informoval Wired.
Technológia deepfake dokáže s využitím umelej inteligencie pobaviť, ale tiež napáchať obrovské škody. Nie sú to len video paródie s tvárami známych osobností, ktoré môžu pôsobiť neškodne a pobaviť verejnosť.
Mnohokrát, pokiaľ si dá autor skutočne záležať, je výsledok úpravy záberov pomocou deepfake dostatočne reálny, aby mu uverilo množstvo ľudí. Takýmto spôsobom je potom možné upravovať vystúpenia politikov, hercov a ďalších známych ľudí.
Deepfake má však čoraz väčšie uplatnenie najmä v porno priemysle, kde je táto technika zneužívaná na úpravu erotických záberov, v ktorých sú pridané tváre populárnych osobností.
V poslednom období takéto množstvo videí rapídne rastie a za uplynulý rok sa počet falošných porno videí upravených pomocou deepfake viac ako strojnásobil. Až 96 % všetkých deepfake videí dostupných na internete je pritom erotických. Technológiu na úpravu videí ale nedávno využil aj bot v známej četovacej aplikácii, ktorý pomocou nej upravil fotografie státisícov žien.
Telegramom sa šíria falošné fotky nahých žien
Softvér dokázal na základe zverejnenej fotky upraviť osobu tak, aby vyzerala nahá, teda odstránil oblečenie, no zachoval tvár. Týmto spôsobom malo byť kompromitovaných vyše 104 000 žien na fotografiách len od júla tohto roka. Bot na Telegrame zneužíval dostupné fotografie a upravoval ich, pričom sa ďalej šírili medzi používateľmi.
Takýto nástroj je navyše dostupný zadarmo, jednoducho sa používa a bezplatný prístup k nemu môže nanešťastie získať ktokoľvek. Používatelia teda mohli pomocou deepfake upraviť fotografie svojich známych a ďalej ich zdieľať. V niektorých prípadoch však nemali ženy na fotkách ani 18 rokov.
Bot v aplikácii každodenne vydával nový album s upravenými fotografiami pre ľudí v skupine, ktorá zahŕňala až 25 000 členov. Takéto zbierky falošných fotiek boli videné bezmála aj 3000-krát behom krátkej doby. Na Telegrame dokonca existuje aj samostatný kanál, ktorý tohto bota využívajúceho deepfake na vytváranie nahých fotografií žien propaguje.
Sleduje ho až 50 000 používateľov. Hoci sa teda problém spája so spomínaným botom, svoju rolu pri šírení obsahu a zdieľaní tohto nástroja zohrala aj táto četovacia aplikácia. Podľa vyjadrení riaditeľa a zakladateľa bezpečnostnej spoločnosti Sensity ide zrejme o prvý prípad, kedy bola deepfake technológia využitá v tak obrovskom rozsahu.
Problém môže mať ďalekosiahly dopad
Ženy na fotografiách pritom mnohokrát ani len nevedeli, že ich softvér „vyzliekol“ a že sa ich upravené nahé fotografie šírili ďalej. Takéto zistenie však môže mať zásadný dopad na psychiku a taktiež sa môžu ženy stať terčom obťažovania. Podľa štúdie organizácie Plan International sa obeťou obťažovania na internete stalo až 58 % zo 14 000 opýtaných žien.
Autori štúdie tiež zaznamenali regionálne rozdiely. V Európe priznalo obťažovanie na internete 63 % opýtaných, v Latinskej Amerike 60 %, v ázijsko-tichomorskej oblasti 58 %, v Afrike 54 % a v Severnej Amerike 52 %, informovala agentúra TASR.
Hoci sú niektoré výsledky pri úprave fotografií botom podľa zistení BBC nekvalitné a nepôsobia vôbec realisticky, v niektorých prípadoch dokázala deepfake technológia vytvoriť aj vierohodné úpravy s detailným zobrazením nahých žien. Obeťou sa pritom mohol stať každý, stačilo mať na Telegrame založený účet s vlastnými fotografiami. Úprava fotografií však údajne fungovala len v prípade žien.
Aplikácia na vytváranie nahých fotografií tu bola aj pred rokom
Podobná aplikácia s názvom DeepNude sa objavila ešte v minulom roku, informoval Vice. Nebola však bezplatná, používatelia za ňu museli zaplatiť 50 dolárov. Kvôli obavám ju však jej autor stiahol z obehu, no dovtedy si ju stiahlo celkovo 95 000 ľudí. Podľa niektorých tvrdení je spomínaný bot na Telegrame cracknutou verziou DeepNude.
Kód tak mohol byť skopírovaný a využitý aj pri úprave fotiek v tejto četovacej aplikácii. Telegram sa k tejto situácii doteraz nevyjadril a svoje stanovisko odmietol publikovať aj po upozornení bezpečnostnou spoločnosťou Sensity, ktorá problém so šíriacimi sa nahými fotkami odhalila.
Aplikácia má síce vo svojich pravidlách uvedený zákaz šírenia nelegálneho obsahu, ktorý zahŕňa aj nahé fotografie, či využívanie botov. Problémom však je odstránenie takéhoto obsahu, ktorý sa do zásahu prevádzkovateľa môže rozšíriť medzi množstvo používateľov.
Ďalšie zaujímavé články z oblasti deepfake technológie:
- Elon Musk má nové virálne deepfake video. Spieva sovietsku pieseň o vesmíre
- Video: Falošný Elon Musk sa vďaka deepfake v reálnom čase pripojil do videohovoru cez Zoom
- Elon Musk a Jeff Bezos konečne tvárou v tvár. Rovno v kulisách Star Treku vďaka deepfake videu
- Deepfake videá ovládli slovenský internet. V hlavných úlohách Kiska, Harabin, Zeman či Trump
- Slovák vytvoril fantastické deepfake video 2021: SpaceX Odyssea. Hlavnú rolu si zahral Elon Musk
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
Pozor: Slovákom v sekunde vezme všetky peniaze. Nová hrozba zneužíva milovanú apku
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
Čierny deň pre YouTube. Vymysleli úplne nový druh reklám, z ktorých si vytrháš vlasy
Európu posadol nebezpečný „vírus“. Známa apka robí z ľudí zombie
- 24 hod
- 48 hod
- 7 dní
-
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Čakali sme 5 rokov. Nový iPhone zbúra trh a konečne dobehne Samsung
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Zomrela hviezda Titanicu a Pána prsteňov. Dokázal niečo, čo sa nikomu inému nepodarilo
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Pozor: Slovákom v sekunde vezme všetky peniaze. Nová hrozba zneužíva milovanú apku
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
Poľsko vedie s Ruskom kybernetickú studenú vojnu
Štart vesmírnej lode Boeing Starliner opäť odložili, toto je dôvod
Európska komisia schválila prevzatie U.S. Steel japonským koncernom Nippon Steel
Aktuálne: Toto poteší všetkých Slovákov. Obľúbená banka spustila obrovskú vychytávku
Česko si kvôli kybernetickým útokom predvolalo ruského veľvyslanca
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené