Toto už nie je len zábava. Kontroverzná AI vytvára videá, ktoré nerozoznáš od reality

Na internete nájdeme množstvo dezinformácií a obsahu, ktoré sú upravené alebo vygenerované umelou inteligenciou. Deepfake videá čoraz viac zaplavujú internet. Videá sa tvária, že sú skutočné, no pozorný divák si všimne, že „niečo na tom nesedí“.

Vytváranie deepfake videí má svoje obmedzenia. Väčšina nástrojov nevie dokonalo pracovať s mimikou tváre. Jednou z charakteristických znakov deepfake videí je nesúlad pier s hovoreným slovom, alebo zvláštne pohyby tela. Zdá sa však, že rozoznávať skutočnosť od fikcie bude čím ďalej, tým zložitejšie.

Ako upozornil portál TechCruch, čínska spoločnosť ByteDance, ktorá vlastní populárnu platformu TikTok zverejnila nástroj, ktorý posúva hranice deepfake videí. OmniHuman-1 dokáže na základe jednej referenčnej fotografie a zvukového záznamu vytvoriť video s rôznymi možnosťami prispôsobenia.

Nové možnosti deepfake videí

Nástroj ponúka vytváranie realistických videí s možnosťami prispôsobiť si deepfake videá podľa vlastných preferencií. Video je možné vytvoriť v ľubovoľnej dĺžke s možnosťou úpravy pomeru strán. OmniHuman-1 nielen generuje, ale dokáže modifikovať už existujúce videá, napríklad upravovať pohyb končatín. Kvalita vstupných materiálov zohráva kľúčovú úlohu a neštandardné pohyby môžu odhaliť zásah umelej inteligencie.

„Omnihuman výrazne prekonáva existujúce metódy, generuje mimoriadne realistické videá ľudí na základe slabých vstupných signálov, najmä zvukových. Podporuje obrázky s ľubovoľným pomerom strán – či už ide o portréty, snímky polovice tela, alebo celého tela – čím zabezpečuje prirodzenejšie a vysoko kvalitné výsledky v rôznych situáciách,“ uvádzajú vývojári.

OmniHuman-1 bol vyškolený na približne 19 000 hodinách videoobsahu z rôznych, bližšie nešpecifikovaných zdrojov.

Zábava, alebo nástroj dezinformácií?

OmniHuman-1 zatiaľ ešte nie je dostupný pre verejnosť, ale jeho schopnosti môžu vyvolať obavy zo zneužitia. Nové nástroje deepfake videí otvárajú síce možnosti zábavy a kreatívnej tvorby, môžu však slúžiť aj na manipuláciu, podvody a propagandu.

Technológia deepfake vytvára klamlivý obsah, ktorý sa tvári ako skutočný. S čoraz dokonalejšími AI nástrojmi bude ťažšie rozoznávať napríklad falošné výroky politikov, ktoré nikdy nepovedali. Taktiež môžu byť súčasťou napríklad finančného podvodu, kde sa podvodníci na základe ukradnutej identity snažia nalákať na pochybné investovanie.

Pred parlamentnými voľbami sa objavil slovenský deepfake, ktorý zarezonoval aj v zahraničných médiách. Bola to falošná nahrávka telefonátu predsedu strany Progresívne Slovensko, Michala Šimečku s novinárkou Denníka N, Monikou Tódovou. Deepfake síce nebol kvalitný, no v prvých hodinách sa šíril enormne rýchlo.

Čítajte viac z kategórie: Aplikácie