Bot v četovacej appke zneužil fotky státisícov žien. Pomocou softvéru ich „vyzliekol“ donaha
Zneužitie deepfake technológie sa stáva v online svete čoraz väčším problémom, ktorý zdá sa nemá riešenie. Nedávno sme upozornili na vytváranie falošného porna, v ktorom boli tváre žien nahradené tvárami herečiek a známych osobností. Deepfake využíval podľa správy spoločnosti Sensity aj četovací bot v aplikácii Telegram, ktorý upravil fotky státisícov žien. Pomocou softvéru im odstránil oblečenie, informoval Wired.
Technológia deepfake dokáže s využitím umelej inteligencie pobaviť, ale tiež napáchať obrovské škody. Nie sú to len video paródie s tvárami známych osobností, ktoré môžu pôsobiť neškodne a pobaviť verejnosť.
Mnohokrát, pokiaľ si dá autor skutočne záležať, je výsledok úpravy záberov pomocou deepfake dostatočne reálny, aby mu uverilo množstvo ľudí. Takýmto spôsobom je potom možné upravovať vystúpenia politikov, hercov a ďalších známych ľudí.
Deepfake má však čoraz väčšie uplatnenie najmä v porno priemysle, kde je táto technika zneužívaná na úpravu erotických záberov, v ktorých sú pridané tváre populárnych osobností.
V poslednom období takéto množstvo videí rapídne rastie a za uplynulý rok sa počet falošných porno videí upravených pomocou deepfake viac ako strojnásobil. Až 96 % všetkých deepfake videí dostupných na internete je pritom erotických. Technológiu na úpravu videí ale nedávno využil aj bot v známej četovacej aplikácii, ktorý pomocou nej upravil fotografie státisícov žien.
Telegramom sa šíria falošné fotky nahých žien
Softvér dokázal na základe zverejnenej fotky upraviť osobu tak, aby vyzerala nahá, teda odstránil oblečenie, no zachoval tvár. Týmto spôsobom malo byť kompromitovaných vyše 104 000 žien na fotografiách len od júla tohto roka. Bot na Telegrame zneužíval dostupné fotografie a upravoval ich, pričom sa ďalej šírili medzi používateľmi.
Takýto nástroj je navyše dostupný zadarmo, jednoducho sa používa a bezplatný prístup k nemu môže nanešťastie získať ktokoľvek. Používatelia teda mohli pomocou deepfake upraviť fotografie svojich známych a ďalej ich zdieľať. V niektorých prípadoch však nemali ženy na fotkách ani 18 rokov.
Bot v aplikácii každodenne vydával nový album s upravenými fotografiami pre ľudí v skupine, ktorá zahŕňala až 25 000 členov. Takéto zbierky falošných fotiek boli videné bezmála aj 3000-krát behom krátkej doby. Na Telegrame dokonca existuje aj samostatný kanál, ktorý tohto bota využívajúceho deepfake na vytváranie nahých fotografií žien propaguje.
Sleduje ho až 50 000 používateľov. Hoci sa teda problém spája so spomínaným botom, svoju rolu pri šírení obsahu a zdieľaní tohto nástroja zohrala aj táto četovacia aplikácia. Podľa vyjadrení riaditeľa a zakladateľa bezpečnostnej spoločnosti Sensity ide zrejme o prvý prípad, kedy bola deepfake technológia využitá v tak obrovskom rozsahu.
Problém môže mať ďalekosiahly dopad
Ženy na fotografiách pritom mnohokrát ani len nevedeli, že ich softvér „vyzliekol“ a že sa ich upravené nahé fotografie šírili ďalej. Takéto zistenie však môže mať zásadný dopad na psychiku a taktiež sa môžu ženy stať terčom obťažovania. Podľa štúdie organizácie Plan International sa obeťou obťažovania na internete stalo až 58 % zo 14 000 opýtaných žien.
Autori štúdie tiež zaznamenali regionálne rozdiely. V Európe priznalo obťažovanie na internete 63 % opýtaných, v Latinskej Amerike 60 %, v ázijsko-tichomorskej oblasti 58 %, v Afrike 54 % a v Severnej Amerike 52 %, informovala agentúra TASR.
Hoci sú niektoré výsledky pri úprave fotografií botom podľa zistení BBC nekvalitné a nepôsobia vôbec realisticky, v niektorých prípadoch dokázala deepfake technológia vytvoriť aj vierohodné úpravy s detailným zobrazením nahých žien. Obeťou sa pritom mohol stať každý, stačilo mať na Telegrame založený účet s vlastnými fotografiami. Úprava fotografií však údajne fungovala len v prípade žien.
Aplikácia na vytváranie nahých fotografií tu bola aj pred rokom
Podobná aplikácia s názvom DeepNude sa objavila ešte v minulom roku, informoval Vice. Nebola však bezplatná, používatelia za ňu museli zaplatiť 50 dolárov. Kvôli obavám ju však jej autor stiahol z obehu, no dovtedy si ju stiahlo celkovo 95 000 ľudí. Podľa niektorých tvrdení je spomínaný bot na Telegrame cracknutou verziou DeepNude.
Kód tak mohol byť skopírovaný a využitý aj pri úprave fotiek v tejto četovacej aplikácii. Telegram sa k tejto situácii doteraz nevyjadril a svoje stanovisko odmietol publikovať aj po upozornení bezpečnostnou spoločnosťou Sensity, ktorá problém so šíriacimi sa nahými fotkami odhalila.
Aplikácia má síce vo svojich pravidlách uvedený zákaz šírenia nelegálneho obsahu, ktorý zahŕňa aj nahé fotografie, či využívanie botov. Problémom však je odstránenie takéhoto obsahu, ktorý sa do zásahu prevádzkovateľa môže rozšíriť medzi množstvo používateľov.
Ďalšie zaujímavé články z oblasti deepfake technológie:
- Elon Musk má nové virálne deepfake video. Spieva sovietsku pieseň o vesmíre
- Video: Falošný Elon Musk sa vďaka deepfake v reálnom čase pripojil do videohovoru cez Zoom
- Elon Musk a Jeff Bezos konečne tvárou v tvár. Rovno v kulisách Star Treku vďaka deepfake videu
- Deepfake videá ovládli slovenský internet. V hlavných úlohách Kiska, Harabin, Zeman či Trump
- Slovák vytvoril fantastické deepfake video 2021: SpaceX Odyssea. Hlavnú rolu si zahral Elon Musk
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Toto ťa v škole nenaučia. TOP 10 technológií, ktoré používajú experti – ale zmenia ti život
„Zamestnaj svoj PC”. TOP 5 spôsobov, ako z počítača spraviť pasívny zdroj príjmu
Už nikdy nestrácaj čas. Toto je TOP 7 aplikácií, ktoré zmenia spôsob, akým pracuješ
Ušetria ti kopu práce každý deň. TOP 10 rozšírení do prehliadača, ktoré absolútne potrebuješ
Aj ty môžeš byť hacker. Toto je TOP 10 nástrojov, s ktorými sa nabúraš (takmer) hocikam
NAJČÍTANEJŠIE ZO STARTITUP
Jeden z najzákernejších typov rakoviny sa šíri alarmujúco rýchlo. Čísla do roku 2050 expertov zaskočili
Hrozí pokuta až 800 eur: Tisíce Slovákov netušia, že ich vodičák má skrytý „dátum spotreby“
Vojna na Ukrajine bude podľa všetkého čoskoro pozastavená, tvrdí Tusk
Plat 36 900 eur aj pre juniorov. Technologický gigant hľadá nových zamestnancov v Bratislave
Dovolenkový raj Slovákov zasiahla vlna západonílskej horúčky: 7 mŕtvych, krvné obmedzenia a varovanie pre turistov
- 24 hod
- 48 hod
- 7 dní
-
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Čínskej invázii nedajú šancu. Kľúčový ostrov Ázie buduje 100-tisícovú armádu dronov, ktorá rozhodne konflikt
- Vo vesmíre vedci spozorovali niečo, čo pripomína kozmickú bránu. A nachádza sa nečakane blízko Zeme
- Výsledky experimentu vyrazili výskumníkom dych. AI modely si vedia prenášať tajné správy, aj tie extremistické
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
-
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Nemeckí tankisti bojujú proti ruským vojskám. Vojnový film ukazuje temnú stránku Wehrmachtu
- Z prehliadaného paliva urobia „novú ropu“. Arabi budujú svätý grál čistej energie za 270 miliárd dolárov
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
- Vesmír možno práve odhalil svoj najväčší trik. Astronómovia hovoria o objave, ktorý mení učebnice
Európsky kódex pre AI rozdelil technologických obrov. Prichádza otvorený konflikt
Najpresnejší radar NASA je na orbite. Upozorní na zemetrasenia aj padnuté mosty
Veľká novinka pre majiteľov smart hodiniek. Najväčší operátor prichádza s užitočnou funkciou
EÚ zaskočila svet. Nečakaná krajina môže cez Rusko vyvážať uhlie napriek sankciám
Audi sa rúti dolu kopcom. Zisk sa prepadol o vyše 37 % a problémy nekončia
NAJČÍTANEJŠIE ZO STARTITUP