Deepfake videá a fotky už odhalí každý. Zverejnili unikátny nástroj, vyskúšali sme ho
Deepfake sa stáva čoraz väčším problémom moderného online sveta. Falošné a upravené videá s výrokmi známych politikov a osobností či fotografie s tvárami celebrít sa objavujú na internete stále častejšie. Odlíšiť kvalitne spracovaný deepfake obsah od reality môže byť neraz poriadne zložité, teraz je však na to dostupný nástroj pre všetkých. Spustila ho spoločnosť Sensity.
Deepfake videá nie sú žiadnou novinkou ani na Slovensku. Doteraz sa objavovali najmä vo vtipnej forme, keď parodovali známych politikov napríklad po prezidentských voľbách u nás a v USA. Omnoho väčší problém to býva v zahraničí.
Hoci ani tam tvorcovia tohto obsahu nezabúdajú na tvorbu vtipných deepfake videí a fotiek, tak čoraz častejšie zneužívajú deepfake na vytváranie falošných politických a dokonca aj erotických videí. Práve v porne sa objavuje deepfake najčastejšie. Potvrdzuje to štúdia statupu Sensity, ktorý ešte vlani informoval, že až 96 % všetkých deepfake videí na internete je porno.
V týchto videách sú pritom zneužívané tváre známych celebrít, hercov a herečiek, alebo spevákov, ktorí pritom ani len netušia, že ich tvár bola zneužitá v takomto obsahu pre dospelých. Každý mesiac sa počet deepfake videí zdvojnásobuje a len za december 2020 odhalil startup až 85 047 takýchto videí. Detailne sme sa tejto problematike venovali v samostatnom článku.
Detekcia deepfake obsahu v špeciálnom webovom nástroji
Aktuálne je to práve Sensity, ktorý sprístupnil verejnosti svoj nový nástroj na odhaľovanie deepfake obsahu s intuitívnym prostredím. Používateľ tak má možnosť jednoducho a rýchlo odhaliť falošné fotografie a videá z kategórie deepfake. Analyzovať je možné video formáty .mp4, .mov a fotografie vo formátoch .png, .jpeg, .jfif a .tiff. Obsah stačí nahrať na stránku a spustiť analýzu. Stránka tiež obsahuje zoznam celebrít a ľudí, ktorých tváre sú v deepfake videách zneužívané najčastejšie.
Pri samotných videách tento nástroj analyzuje tzv. „face swap“, teda výmenu tváre osoby na videu. Politik môže mať napríklad tvár známej celebrity alebo, ako to bolo v prípade deepfake s Elonom Muskom, dostal spevák v pesničke o vesmíre tvár zakladateľa SpaceX. Tento nástroj sme si vyskúšali aj u nás v redakcii. Na začiatok ponúka bezplatnú kontrolu 5 fotiek a videí. Pre ďalšie analýzy je však potrebné predplatné.
Kontrola videí nemusí byť vždy 100 %-ne presná. Predsa len, tento nástroj sa učí postupne aj s pribúdajúcimi príkladmi deepfake obsahu. Používateľ môže kontrolovať aj deepfake video len na základe URL adresy, no táto možnosť nemusí byť vždy dostupná. Najlepším riešením je predmetné video nahrať z počítača a potom bude jeho obsah vyhodnotený. V priemere to trvá nanajvýš pár minút, no bežne dokáže deepfake odhaliť už za pár sekúnd.
Pri kontrole deepfake fotografií to prebieha podobne, nástroj kontroluje a overuje „face swap“, no navyše aj generované „GAN“ obrázky. GAN (Generative Adversarial Networks) predstavil ešte v roku 2014 Ian Goodfellow, Yoshua Bengio a ďalší výskumníci z univerzity v Montreale.
Jedná sa o novú neurónovú sieť, ktorá dokáže s využitím umelej inteligencie vytvárať komplexné obrazové výstupy. Tento nástroj však môže byť zneužitý aj na vytváranie deepfake fotiek.
Pomocou tohto nástroja dokázala jeho možnosti vo vlastnom programe demonštrovať aj Nvidia. S technológiou GAN je možné vytvoriť aj z obyčajnej machule ako zo skicára krásny fotorealistický obraz, vygenerovať profilovú fotku s tvárou neexistujúceho človeka alebo generovať grafické prostredie do hier. To všetko bolo demonštrované ešte pred niekoľkými rokmi.
A práve takéto úpravy pomocou GAN analyzuje aj zverejnený nástroj od startupu Sensity, ktorý dokáže vyhodnotiť, či fotografia prešla týmto procesom úpravy. Výsledok celej analýzy uvidí používateľ hneď pod fotografiou alebo videom, pričom dostane aj percentuálny výsledok, ktorý vypovedá o tom, v akej miere si je nástroj istý, že ide o deepfake obsah. Správa o analýze je odoslaná aj na email.
Dá sa naňho spoľahnúť, nie je však pre každého
Nie vždy pri našom teste nástroj uspel, no zo 4 testovaných fotografií úspešne odhalil 2 deepfake fotky a 1 deepfake video už behom krátkej chvíle. Postupom času a s väčším množstvom vzoriek takéhoto deepfake obsahu môžeme predpokladať, že umelá inteligencia bude stále presnejšie vyhodnocovať falošné fotky a upravené deepfake videá. Aktuálne je spoľahlivosť a presnosť nástroja podľa tvorcov na úrovni 95 až 99.9%.
S čoraz väčším dosahom a rozširovaním deepfake obsahu je takýto nástroj dôležitým krokom vpred pri odhaľovaní podvodných videí a fotografií. Jeho možnosti zrejme nebudú využívať bežní ľudia pri kontrole obsahu napríklad zo sociálnych sietí, predsa len, predplatné nie je práve najlacnejšie.
Nástroj od Sensity je totiž primárne určený pre výskumníkov a odborníkov venujúcich sa problematike deepfake, ktorým poslúži spoľahlivo.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
7 najväčších chýb, ktorými si denne ničíš smartfón (a ani o tom nevieš)
TOP 8 aplikácií na správu času, ktoré ti zmenia život. Bez čísla 7 by som nevedel fungovať
Nevyhadzuj stovky eur za nový mobil. Takto svoj smartfón zrýchliš aj o 100 % v 4 krokoch
Európska únia udelila Google miliardovú pokutu. Trump sa nám okamžite začal vyhrážať
Zadarmo a pre všetkých. Google odomkol editor videí, ktorý môže byť prelomom v online tvorbe
NAJČÍTANEJŠIE ZO STARTITUP
78-ročný profesor má pamäť ostrú ako britva. Odhalil päť návykov, ktoré mu pomáhajú udržať mentálnu sviežosť
Štefančík: Robert Fico si obľúbil autoritárske krajiny a stretáva sa s vojnovým zločincom (TÝŽDENNÝ PREHĽAD)
Rodinná anamnéza rakoviny: Vedci odhalili 6 kľúčových faktorov, ktoré môžu predísť jej vzniku
Najhodnotnejšie slovenské a české firmy: Rebríčku kraľuje spoločnosť s hodnotou 16 miliárd eur
Odborníci varujú: Upchávanie srdcových ciev prebieha potichu. Tieto príznaky môžu signalizovať infarkt
- 24 hod
- 48 hod
- 7 dní
-
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Európske automobilky sa otriasajú. Šéf Stellantisu poslal Bruselu tvrdý odkaz, čas sa kráti
- Zbraň budúcnosti zlyhala na plnej čiare. Arabi testovali čínsky laser a ostali totálne zarazení
- Na Slovensko prichádza najlepšie hodnotený seriál celého roka. Ponúkne ho jediná služba
- Veľmoc našla ložisko mimoriadne vzácnej suroviny. Má astronomickú hodnotu
-
- Nič lepšie vraj na Netflixe tento rok neuvidíš. Hrozivo aktuálny film ohromil kritikov, 11 minút mu tlieskali v stoji
- Zbraň budúcnosti zlyhala na plnej čiare. Arabi testovali čínsky laser a ostali totálne zarazení
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Veľmoc našla ložisko mimoriadne vzácnej suroviny. Má astronomickú hodnotu
- Trh s elektromobilmi v Číne explodoval. Teraz mu hrozí vlastná smrť
-
- Ochráni kontinent pred Rusmi aj CO₂. Európa má v rukách tajnú zbraň, odborníci zvažujú jej nasadenie
- Nemajú proti nej šancu. F-16 dostane desivú zbraň, ktorá môže zachrániť Ukrajinu
- Nič lepšie vraj na Netflixe tento rok neuvidíš. Hrozivo aktuálny film ohromil kritikov, 11 minút mu tlieskali v stoji
- Susedná krajina kupuje ničivé zbrane za 1,4 miliardy eur. Moskve poslali jasný odkaz
- BMW to myslí naozaj vážne. Už čoskoro spustí sériovu výrobu odpísaného pohonu áut
Západ vstúpil do nesprávnych vôd. Okolo kľúčového ostrova Ázie to vrie, Čína hovorí o provokácii
Svet sa rúti do jadrového rizika. Počet krajín s jadrovými zbraňami je alarmujúci, vznikajú nové veľmoci
Fosílne palivá ešte nekončia. Ropní giganti urobili rozhodnutie, ktoré zaskočilo svet
Nabiješ ich za 7 minút a majú rekordnú batériu. Nové mobily obľúbenej značky poriadne prekvapili
Slovensko sa hrnie do vesmíru. Postavíme dôležité zariadenie za 16 miliónov eur, na toto poslúži
NAJČÍTANEJŠIE ZO STARTITUP