Bot v četovacej appke zneužil fotky státisícov žien. Pomocou softvéru ich „vyzliekol“ donaha
Zneužitie deepfake technológie sa stáva v online svete čoraz väčším problémom, ktorý zdá sa nemá riešenie. Nedávno sme upozornili na vytváranie falošného porna, v ktorom boli tváre žien nahradené tvárami herečiek a známych osobností. Deepfake využíval podľa správy spoločnosti Sensity aj četovací bot v aplikácii Telegram, ktorý upravil fotky státisícov žien. Pomocou softvéru im odstránil oblečenie, informoval Wired.
Technológia deepfake dokáže s využitím umelej inteligencie pobaviť, ale tiež napáchať obrovské škody. Nie sú to len video paródie s tvárami známych osobností, ktoré môžu pôsobiť neškodne a pobaviť verejnosť.
Mnohokrát, pokiaľ si dá autor skutočne záležať, je výsledok úpravy záberov pomocou deepfake dostatočne reálny, aby mu uverilo množstvo ľudí. Takýmto spôsobom je potom možné upravovať vystúpenia politikov, hercov a ďalších známych ľudí.
Deepfake má však čoraz väčšie uplatnenie najmä v porno priemysle, kde je táto technika zneužívaná na úpravu erotických záberov, v ktorých sú pridané tváre populárnych osobností.
V poslednom období takéto množstvo videí rapídne rastie a za uplynulý rok sa počet falošných porno videí upravených pomocou deepfake viac ako strojnásobil. Až 96 % všetkých deepfake videí dostupných na internete je pritom erotických. Technológiu na úpravu videí ale nedávno využil aj bot v známej četovacej aplikácii, ktorý pomocou nej upravil fotografie státisícov žien.
Telegramom sa šíria falošné fotky nahých žien
Softvér dokázal na základe zverejnenej fotky upraviť osobu tak, aby vyzerala nahá, teda odstránil oblečenie, no zachoval tvár. Týmto spôsobom malo byť kompromitovaných vyše 104 000 žien na fotografiách len od júla tohto roka. Bot na Telegrame zneužíval dostupné fotografie a upravoval ich, pričom sa ďalej šírili medzi používateľmi.
Takýto nástroj je navyše dostupný zadarmo, jednoducho sa používa a bezplatný prístup k nemu môže nanešťastie získať ktokoľvek. Používatelia teda mohli pomocou deepfake upraviť fotografie svojich známych a ďalej ich zdieľať. V niektorých prípadoch však nemali ženy na fotkách ani 18 rokov.
Bot v aplikácii každodenne vydával nový album s upravenými fotografiami pre ľudí v skupine, ktorá zahŕňala až 25 000 členov. Takéto zbierky falošných fotiek boli videné bezmála aj 3000-krát behom krátkej doby. Na Telegrame dokonca existuje aj samostatný kanál, ktorý tohto bota využívajúceho deepfake na vytváranie nahých fotografií žien propaguje.
Sleduje ho až 50 000 používateľov. Hoci sa teda problém spája so spomínaným botom, svoju rolu pri šírení obsahu a zdieľaní tohto nástroja zohrala aj táto četovacia aplikácia. Podľa vyjadrení riaditeľa a zakladateľa bezpečnostnej spoločnosti Sensity ide zrejme o prvý prípad, kedy bola deepfake technológia využitá v tak obrovskom rozsahu.
Problém môže mať ďalekosiahly dopad
Ženy na fotografiách pritom mnohokrát ani len nevedeli, že ich softvér „vyzliekol“ a že sa ich upravené nahé fotografie šírili ďalej. Takéto zistenie však môže mať zásadný dopad na psychiku a taktiež sa môžu ženy stať terčom obťažovania. Podľa štúdie organizácie Plan International sa obeťou obťažovania na internete stalo až 58 % zo 14 000 opýtaných žien.
Autori štúdie tiež zaznamenali regionálne rozdiely. V Európe priznalo obťažovanie na internete 63 % opýtaných, v Latinskej Amerike 60 %, v ázijsko-tichomorskej oblasti 58 %, v Afrike 54 % a v Severnej Amerike 52 %, informovala agentúra TASR.
Hoci sú niektoré výsledky pri úprave fotografií botom podľa zistení BBC nekvalitné a nepôsobia vôbec realisticky, v niektorých prípadoch dokázala deepfake technológia vytvoriť aj vierohodné úpravy s detailným zobrazením nahých žien. Obeťou sa pritom mohol stať každý, stačilo mať na Telegrame založený účet s vlastnými fotografiami. Úprava fotografií však údajne fungovala len v prípade žien.
Aplikácia na vytváranie nahých fotografií tu bola aj pred rokom
Podobná aplikácia s názvom DeepNude sa objavila ešte v minulom roku, informoval Vice. Nebola však bezplatná, používatelia za ňu museli zaplatiť 50 dolárov. Kvôli obavám ju však jej autor stiahol z obehu, no dovtedy si ju stiahlo celkovo 95 000 ľudí. Podľa niektorých tvrdení je spomínaný bot na Telegrame cracknutou verziou DeepNude.
Kód tak mohol byť skopírovaný a využitý aj pri úprave fotiek v tejto četovacej aplikácii. Telegram sa k tejto situácii doteraz nevyjadril a svoje stanovisko odmietol publikovať aj po upozornení bezpečnostnou spoločnosťou Sensity, ktorá problém so šíriacimi sa nahými fotkami odhalila.
Aplikácia má síce vo svojich pravidlách uvedený zákaz šírenia nelegálneho obsahu, ktorý zahŕňa aj nahé fotografie, či využívanie botov. Problémom však je odstránenie takéhoto obsahu, ktorý sa do zásahu prevádzkovateľa môže rozšíriť medzi množstvo používateľov.
Ďalšie zaujímavé články z oblasti deepfake technológie:
- Elon Musk má nové virálne deepfake video. Spieva sovietsku pieseň o vesmíre
- Video: Falošný Elon Musk sa vďaka deepfake v reálnom čase pripojil do videohovoru cez Zoom
- Elon Musk a Jeff Bezos konečne tvárou v tvár. Rovno v kulisách Star Treku vďaka deepfake videu
- Deepfake videá ovládli slovenský internet. V hlavných úlohách Kiska, Harabin, Zeman či Trump
- Slovák vytvoril fantastické deepfake video 2021: SpaceX Odyssea. Hlavnú rolu si zahral Elon Musk
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Je najvyšší čas vymazať túto appku. Hackeri cez ňu získali heslá Slovákov a už ukradli desiatky miliónov eur
Tvoj feed sa zásadne zmení. Meta chce vyriešiť najotravnejší problém Facebooku
Obrovský škandál v USA. Minister posielal plány vojenských útokov cez známu appku, unikli detaily
Slováci oslavujú. Digitálne doklady v mobile sú tu, takto si ich aktivuješ (NÁVOD)
Na toto sme čakali: WhatsApp pridal prelomové funkcie, ktoré zásadne menia komunikáciu
NAJČÍTANEJŠIE ZO STARTITUP
Tiché ochorenie končatín, ktoré ti zničí telo aj život. „Pacienti ho neriešia včas,“ hovorí odborníčka
Ak máš dôchodok nižší ako 684,10 eura, môže to byť problém
Slováci odštartovali MS v hokeji 2025 debaklom. Domáci Švédi zvíťazili vysoko 5:0
U susedov došlo k výbuchu a zrúteniu stropu hotela: Záchranári vyťahovali zavalených hostí
Fico tvrdo reagoval na Kallasovú: Milá Kaja, nemáš právomoc kritizovať suverénneho premiéra suverénnej krajiny
- 24 hod
- 48 hod
- 7 dní
-
- Najslávnejšia veta vznikla náhodou. Gladiátor má 25 rokov, prvý nápad by nikdy neprerazil
- Letíme závratnou rýchlosťou. Mliečnu cestu odsúva tajomná vesmírna prázdnota
- Vedci šokovali svet: V tvojich bunkách sa deje kvantový zázrak, ktorý prepíše učebnice biológie
- Star Wars a Duna na steroidoch. Veľkolepý sci-fi seriál sa predstavil v novej ukážke
- Robí si na ňu zálusk NATO aj Ukrajina. Sused Ruska má novú kamikadze zbraň na obranu štátu
-
- Robí si na ňu zálusk NATO aj Ukrajina. Sused Ruska má novú kamikadze zbraň na obranu štátu
- Vedci sú v koncoch. Gigantický objekt popiera základné pravidlá vesmíru, fyzika na to nemá odpoveď
- ČERNÁK pobláznil Slovákov. Netflix však ponúka ešte niečo omnoho lepšie
- Majitelia elektromobilov dostali studenú sprchu. Po novom majú platiť nespravodlivú a vysokú daň
- Socialistická ikona hlási návrat. Slávna značka ukázala po desaťročiach nový model
-
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- ČERNÁK pobláznil Slovákov. Netflix však ponúka ešte niečo omnoho lepšie
- Našli artefakt starý 80 000 rokov. Odhalil, že o minulosti ľudstva sme sa totálne mýlili
- KVÍZ: Väčšina „znalcov“ nedá už tretiu otázku. Ukáž, že filmové akčné legendy máš v malíčku
- Majitelia elektromobilov dostali studenú sprchu. Po novom majú platiť nespravodlivú a vysokú daň
Malé firmy získajú dotácie na obnoviteľné zdroje. Pozri si podmienky
Americké automobilky sa búria. Trumpova dohoda s Britániou ich zrádza
Britská letecká skupina IAG nakupuje 53 lietadiel za miliardy. Obchodná dohoda s USA ruší clá
India a Pakistan na pokraji vojny. Civilné lety zastavené
Benzín aj nafta zlacneli. Analytik varuje, že ďalšie zníženie je neisté
NAJČÍTANEJŠIE ZO STARTITUP
Tiché ochorenie končatín, ktoré ti zničí telo aj život. „Pacienti ho neriešia včas,“ hovorí odborníčka
Ak máš dôchodok nižší ako 684,10 eura, môže to byť problém
Slováci odštartovali MS v hokeji 2025 debaklom. Domáci Švédi zvíťazili vysoko 5:0
U susedov došlo k výbuchu a zrúteniu stropu hotela: Záchranári vyťahovali zavalených hostí
Fico tvrdo reagoval na Kallasovú: Milá Kaja, nemáš právomoc kritizovať suverénneho premiéra suverénnej krajiny
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené