Deepfake je v súčasnosti jedným z najväčších problémov pri manipulácii s obsahom. Používa sa na rôzne účely, od vtipných videí s politikmi cez dezinformačné kampane, až po vkladanie tvárí celebrít do pornografických videí. Našťastie, spolu s vývojom deepfake technológie napredujú aj rôzne nástroje, ktoré ho dokážu spoľahlivo odhaliť, informuje Business Insider.

Univerzita v Buffale prišla s vynálezom, ktorý dokáže odhaliť aj tie najrealistickejšie deepfake snímky. Výskumníci z tejto univerzity vo svojej štúdii opísali vývoj metódy fungujúcej vďaka analýze odrazov svetla v očiach ľudí na fotografiách.

„V očiach je viditeľný veľmi podobný odraz svetla, pretože sa pozerajú na jedno miesto. Je však veľmi ľahko prehliadnuteľný,“ hovorí uznávaný profesor Siwei Lyu, autor štúdie.

NEPREHLIADNI
Deepfake videá ovládli aj porno, pre známe weby sú zlatou baňou. Zneužívajú tváre celebrít

Na fotografiách skutočných ľudí totiž býva odraz svetla v jednom oku takmer identický s odrazom v tom druhom, pretože sa pozerajú rovnakým smerom.

Trúfneš si uhádnuť, ktorý pár očí je skutočný? Ani jeden - všetky sú vytvorené systémom StyleGAN2. Lyu et. al

Naopak, na deepfake obrázkoch sa vo väčšine prípadov pomerne výrazne líšia. Podľa autorov štúdie dosiahla technológia v testoch portrétových snímok zo stránky This Person Does Not Exist presnosť na úrovni 94 %.

Porovnanie skutočnej tváre s deepfake obrázkom, ktorý je vytvorený umelou inteligenciou. Lyu et al.

Výskumníci vytvorili program, ktorý má za úlohu analyzovať podobnosť odrazu svetla v oboch očiach. Výstupom tohto procesu je percentuálne skóre – čím je nižšie, tým je väčšia pravdepodobnosť, že ide o deepfake. Ani tento program však nie je dokonalý, píše portál The Next Web. Aby všetko fungovalo tak, ako má, na kontrolovaných snímkach musia byť viditeľné obe oči, od ktorých sa odráža svetlo.

Prečo je odhaľovanie deepfake fotografií a videí dôležité?

Autor štúdie, Sivei Lyu, pracoval na projektoch zaoberajúcich sa počítačovým videním a technikami strojového učenia už viac ako 20 rokov. Deepfake videám a fotografiám sa venuje už od ich počiatkov.

V minulosti napríklad poukázal na nedôsledné, v niektorých prípadoch dokonca chýbajúce žmurkanie osôb na deepfake videách. Podieľal sa taktiež aj na vytvorení verejne prístupného „Deepfake-o-metra“, ktorý pomáha falošné videá identifikovať .

Screenshot / YouTube / Channel 4

NEPREHLIADNI
Verejnoprávna televízia terčom masívnej kritiky. Odvysielala deepfake video s kráľovnou Alžbetou

Tvrdí, že identifikácia deepfake materiálov je čoraz dôležitejšia najmä v dnešnej napätej spoločnosti, kedy môže byť dopad dezinformácií doslova katastrofálny.

„Nanešťastie, veľký podiel týchto falošných videí bol vytvorený na pornografické účely, čo (okrem iného) malo veľké psychické následky na obetiach,“ vysvetľuje Lyu.

YouTube / Screenshot

„Závažný je aj potenciálny vplyv na politickú sféru, kedy falošné video zobrazuje politikov, ktorí hovoria alebo robia niečo, čo by nemali.“ Výskumníci plánujú pokračovať vo vývoji týchto nástrojov s cieľom zvýšiť ich efektivitu, píše Sci-Tech Daily.

V súčasnosti už ale existujú aj iné nástroje, pomocou ktorých je možné odhaliť takmer každé deepfake video a jeden z nich sme si vyskúšali aj my. Technológie však napredujú a my môžeme len dúfať, že budeme vždy vedieť odlíšiť deepfake obsah od reálnych fotografií a videí.

Čítajte viac z kategórie: Novinky