Deepfake videá a fotky už odhalí každý. Zverejnili unikátny nástroj, vyskúšali sme ho
Deepfake sa stáva čoraz väčším problémom moderného online sveta. Falošné a upravené videá s výrokmi známych politikov a osobností či fotografie s tvárami celebrít sa objavujú na internete stále častejšie. Odlíšiť kvalitne spracovaný deepfake obsah od reality môže byť neraz poriadne zložité, teraz je však na to dostupný nástroj pre všetkých. Spustila ho spoločnosť Sensity.
Deepfake videá nie sú žiadnou novinkou ani na Slovensku. Doteraz sa objavovali najmä vo vtipnej forme, keď parodovali známych politikov napríklad po prezidentských voľbách u nás a v USA. Omnoho väčší problém to býva v zahraničí.
Hoci ani tam tvorcovia tohto obsahu nezabúdajú na tvorbu vtipných deepfake videí a fotiek, tak čoraz častejšie zneužívajú deepfake na vytváranie falošných politických a dokonca aj erotických videí. Práve v porne sa objavuje deepfake najčastejšie. Potvrdzuje to štúdia statupu Sensity, ktorý ešte vlani informoval, že až 96 % všetkých deepfake videí na internete je porno.
V týchto videách sú pritom zneužívané tváre známych celebrít, hercov a herečiek, alebo spevákov, ktorí pritom ani len netušia, že ich tvár bola zneužitá v takomto obsahu pre dospelých. Každý mesiac sa počet deepfake videí zdvojnásobuje a len za december 2020 odhalil startup až 85 047 takýchto videí. Detailne sme sa tejto problematike venovali v samostatnom článku.
Detekcia deepfake obsahu v špeciálnom webovom nástroji
Aktuálne je to práve Sensity, ktorý sprístupnil verejnosti svoj nový nástroj na odhaľovanie deepfake obsahu s intuitívnym prostredím. Používateľ tak má možnosť jednoducho a rýchlo odhaliť falošné fotografie a videá z kategórie deepfake. Analyzovať je možné video formáty .mp4, .mov a fotografie vo formátoch .png, .jpeg, .jfif a .tiff. Obsah stačí nahrať na stránku a spustiť analýzu. Stránka tiež obsahuje zoznam celebrít a ľudí, ktorých tváre sú v deepfake videách zneužívané najčastejšie.
Pri samotných videách tento nástroj analyzuje tzv. „face swap“, teda výmenu tváre osoby na videu. Politik môže mať napríklad tvár známej celebrity alebo, ako to bolo v prípade deepfake s Elonom Muskom, dostal spevák v pesničke o vesmíre tvár zakladateľa SpaceX. Tento nástroj sme si vyskúšali aj u nás v redakcii. Na začiatok ponúka bezplatnú kontrolu 5 fotiek a videí. Pre ďalšie analýzy je však potrebné predplatné.
Kontrola videí nemusí byť vždy 100 %-ne presná. Predsa len, tento nástroj sa učí postupne aj s pribúdajúcimi príkladmi deepfake obsahu. Používateľ môže kontrolovať aj deepfake video len na základe URL adresy, no táto možnosť nemusí byť vždy dostupná. Najlepším riešením je predmetné video nahrať z počítača a potom bude jeho obsah vyhodnotený. V priemere to trvá nanajvýš pár minút, no bežne dokáže deepfake odhaliť už za pár sekúnd.
Pri kontrole deepfake fotografií to prebieha podobne, nástroj kontroluje a overuje „face swap“, no navyše aj generované „GAN“ obrázky. GAN (Generative Adversarial Networks) predstavil ešte v roku 2014 Ian Goodfellow, Yoshua Bengio a ďalší výskumníci z univerzity v Montreale.
Jedná sa o novú neurónovú sieť, ktorá dokáže s využitím umelej inteligencie vytvárať komplexné obrazové výstupy. Tento nástroj však môže byť zneužitý aj na vytváranie deepfake fotiek.
Pomocou tohto nástroja dokázala jeho možnosti vo vlastnom programe demonštrovať aj Nvidia. S technológiou GAN je možné vytvoriť aj z obyčajnej machule ako zo skicára krásny fotorealistický obraz, vygenerovať profilovú fotku s tvárou neexistujúceho človeka alebo generovať grafické prostredie do hier. To všetko bolo demonštrované ešte pred niekoľkými rokmi.
A práve takéto úpravy pomocou GAN analyzuje aj zverejnený nástroj od startupu Sensity, ktorý dokáže vyhodnotiť, či fotografia prešla týmto procesom úpravy. Výsledok celej analýzy uvidí používateľ hneď pod fotografiou alebo videom, pričom dostane aj percentuálny výsledok, ktorý vypovedá o tom, v akej miere si je nástroj istý, že ide o deepfake obsah. Správa o analýze je odoslaná aj na email.
Dá sa naňho spoľahnúť, nie je však pre každého
Nie vždy pri našom teste nástroj uspel, no zo 4 testovaných fotografií úspešne odhalil 2 deepfake fotky a 1 deepfake video už behom krátkej chvíle. Postupom času a s väčším množstvom vzoriek takéhoto deepfake obsahu môžeme predpokladať, že umelá inteligencia bude stále presnejšie vyhodnocovať falošné fotky a upravené deepfake videá. Aktuálne je spoľahlivosť a presnosť nástroja podľa tvorcov na úrovni 95 až 99.9%.
S čoraz väčším dosahom a rozširovaním deepfake obsahu je takýto nástroj dôležitým krokom vpred pri odhaľovaní podvodných videí a fotografií. Jeho možnosti zrejme nebudú využívať bežní ľudia pri kontrole obsahu napríklad zo sociálnych sietí, predsa len, predplatné nie je práve najlacnejšie.
Nástroj od Sensity je totiž primárne určený pre výskumníkov a odborníkov venujúcich sa problematike deepfake, ktorým poslúži spoľahlivo.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
Pozor: Slovákom v sekunde vezme všetky peniaze. Nová hrozba zneužíva milovanú apku
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
Čierny deň pre YouTube. Vymysleli úplne nový druh reklám, z ktorých si vytrháš vlasy
Európu posadol nebezpečný „vírus“. Známa apka robí z ľudí zombie
- 24 hod
- 48 hod
- 7 dní
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Efektivitou preráža strop. Postavili ničiteľa spaľovákov, ktorý rozprášil aj monopost F1
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Od týchto noviniek sa Slováci neodlepia. Netflix a ďalší ti v máji vyrazia dych
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Efektivitou preráža strop. Postavili ničiteľa spaľovákov, ktorý rozprášil aj monopost F1
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
- Od týchto noviniek sa Slováci neodlepia. Netflix a ďalší ti v máji vyrazia dych
- Odhalili desiatky podvodných e-shopov na Slovensku. Vyskúšali sme ich a neverili vlastným očiam (+zoznam)
Aktuálne: Toto poteší všetkých Slovákov. Obľúbená banka spustila obrovskú vychytávku
Česko si kvôli kybernetickým útokom predvolalo ruského veľvyslanca
Nepochopíš, ako si existoval bez nej. Vďaka novinke YouTube sa už nikdy nebudeš nudiť
Platforma Voice of Europe sa dostane na sankčný zoznam EÚ
Televízia al-Džazíra spoznala svoj osud v štáte Izrael. Vláda rozhodla takto
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené