Deepfake patrí v súčasnosti medzi veľmi populárne témy. Zároveň však predstavuje jeden z najzávažnejších problémov pri manipulácií s obsahom. Sledovať ho môžeme všade okolo seba, od vtipných a zábavných videí, až po úmyselne zostrojené dezinformačné kampane.

Jedno z takýchto vysokokvalitných deepfake videí si mohol vidieť posledné dni aj na Slovensku. Konkrétne je reč o videu so „Zlaticou Puškárovou, ktorá vyvrátila potrebu rúšok na verejnosti“. Toto video bolo dokonalým príkladom ako ľahké je deepfakeom oklamať širokú verejnosť, ktorá v niektorých prípadoch bezmyšlienkovo tento obsah zdieľala.

Deepfake video bolo jednou z najlepších, ak nie vôbec tou najlepšou kampaňou tohto roka. Týmto videom odštartovalo O2 novú kampaň, v ktorej upozorňuje na nebezpečenstvo novodobého fenoménu v podobe falošných a klamlivých videí.

Nápad vytvoriť takéto deepfake video vyšlo z hlavy známeho popularizátora umelej inteligencie a odborníka na problematiku deepfake, Martina Spana. Pre FonTech.sk teraz prezradil, ako celá táto kampaň vlastne vznikla, ale i to ako bude ďalej pokračovať.

V rozhovore sa ďalej dočítaš:

• Ako je to s deepfake videami na Slovensku
• Či si deepfake video dokáže vytvoriť každý
• Ako riešiť túto problematiku
• Či by pomohli zákonné opatrenia
• Boj proti najväčším slovenským dezinformátorom a či je Facebook stále bezpečnou platformou
• Aký postoj treba zaujať voči hoaxom a dezinformáciam
• Či ich má riadiť štát, alebo kto by mal byť tým, kto poukáže na „pravdu“

Ako vznikol nápad s kampaňou O2, akú rolu si zohral v tejto kampani?

Pred nejakým časom som chcel slovenskú verejnosť upozorniť na problém hoaxov, dezinformácií a celej tejto problematiky, pretože náš informačný svet je prepojený protichodnými názormi a začalo to byť obzvlášť evidentné počas pandémie. Síce sa hovorí, že informácia má cenu zlata, lenže počas pandémie mala informácia cenu života a zdravia. V tomto období som si všimol, že ľudia častokrát zdieľajú niečo, čo si ani celé poriadne neprečítali.

Počas pandémie som sa teda začal zamýšľať nad tým, ako vyriešiť problém dezinformácií. Prišiel som na to, že najlepšie bude, ak ľudia sami na sebe zistia, že sú klamaní. Preto som prišiel s nápadom spraviť „dokonalú lož“, ktorá ľudí preverí, sám by som to ale nezvládol. Všimol som si však, že O2 dáva do popredia verejnoprospešné témy ako napríklad to, aby ľudia netelefonovali za volantom. Z toho dôvodu som sa im ozval a našiel som ucho, ktoré počúva.

Čo sa týka role, ja som bol „idea maker“, a ten ktorý navrhol deepfake, respektíve som poskytol teoretický základ. O samotný deepfake a celú kampaň okolo neho sa už postaralo O2 a spolupracujúce reklamné a produkčné agentúry.

Zobraziť celú galériu (1)

Freepik (Úprava redakcie)

Myslíš si, že pandémia spôsobila, že hoaxy a dezinformácie sú na Slovensku vyslovene témou číslo jedna a dokážu výrazne pošramotiť mienku verejnosti?

Už to bolo vážne aj predtým. Prakticky my, keď si zoberiem dva politické alebo názorovo odlišné tábory, sa už nevieme dohodnúť na tom, čo je to realita. Niektorí ako keby videli za skutočnosťami inú realitu než vidíme my. Riešenie tohto problému bude však oveľa zložitejšie, bude potrebné sa dohodnúť na nejakej terminológii, pretože každý začína nazývať dezinformácie a hoaxy aj veci, čo sa mu nehodia.

Konkrétne príklady uvádzam nebudem, keďže chcem, aby to bolo apolitické, takže svojimi vyjadreniami nechcem podporiť ani uraziť žiadny tábor. Vo všeobecnosti však môžem povedať, že cieľom mojej kampane bolo poukázať na to, aby sa ľudia zamysleli.

Doterajšie kampane totiž naznačovali, že „títo sú dobrí, títo sú zlí“, ja som chcel dosiahnuť, že nebudem hovoriť, čo je dobré a čo zlé, sami sa zamyslite a sami si to uvedomte, pretože to je oveľa hodnotnejšie, keď ľudia prídu bez pomoci na to, že celý čas boli v klamstve.

NEPREHLIADNI
Deepfake videá a fotky už odhalí každý. Zverejnili unikátny nástroj, vyskúšali sme ho

Kto je tu potom ten, kto má určiť čo je pravdivé a čo je nepravdivé a ako sa k tomu staviaš ty? Napríklad, na Facebooku sa niečo zdieľa a istá skupina Slovákov si myslí, že to je hoax, no iná skupina ho vo veľkom zdieľa. Má to regulovať Facebook ako súkromná spoločnosť, alebo to má regulovať štát?

Absolútna pravda neexistuje, všetko je relatívne, čiže záleží na uhle pohľadu, preto je aj tento problém veľmi zložitý. Neviem, či viem na to toto odpovedať, nemám na to žiadne riešenie. Pevne však verím, že prvým krokom, čo sme spravili, upozornili sme na tento problém, nejak spoločensky postupne nájdeme riešenie. Zatiaľ viem len cestu, ale neviem cieľ.

Zobraziť celú galériu (1)

archív Martin Spano

Ty si spomínal, že veľa ľudí nečíta vnútro článku ale pozrie si iba nadpis, prípadne si pozrú titulnú fotku a tam to končí. Myslíš, že aj na takúto skupinu ľudí to bude mať edukačný vplyv? Nebude ich to skôr naopak ešte viac povzbudzovať v zdieľaní hoaxov?

V súčasnej dobe je zacielenie na niečo veľmi zložité, súčasný svet je plný rozptýlení. Napríklad neprečítaš si celý článok a hneď urobíš záver, lebo už na teba čaká tisíc ďalších článkov. No a práve preto sme sa rozhodli vytvoriť krátke video, lebo akonáhle ľudia vidia takúto šokujúcu vec, nevypnú ju. Keď napíšeš text, nikto si to neprečíta. Spravili sme teda krátke video, ozvali sme sa Markíze, najväčšej a najkomerčnejšej televízii, či by do toho nešla s nami a tá súhlasila.

Či to nebude kontraproduktívne celkovo povedať neviem, ale mám zaujímavé informácie z blízkeho okolia. Poznám ľudí, ktorí majú tendenciu veriť všetkému a všimol som si, že po zhliadnutí videa zostali akoby v pomykove, zostali zarazení. Pre mňa to je znak toho, že asi to naozaj padlo na úrodnú pôdu.

Trošku odbočím, ale dobrým príkladom môže byť moja babička. Tá žije svoj spokojný starecký život, nie je žiadna konšpirátorka ani nič podobné, ale keď som bol v televízii, zavolala mi so slovami, že doteraz nevedela čo je to hoax, nikdy to nepočula, ale keď uvidela to naše video, išla si to hneď „vygoogliť“.

Veľa ľudí ani len netuší, že v súčasnom svete sú aj lži. Niektorí totiž vôbec nevedia, že keď vidia nejaké video, alebo si prečítajú nejaký článok, nemusí to byť pravda.

Tento problém je dobre pozorovateľný aj na sociálnych sieťach, kde je ešte oveľa ťažšie rozlíšiť, čo je pravda a čo nie. Keď sa aj pozrieme na vekovú skupinu, ktorá zdieľa hoaxy, samozrejme sú tu aj ľudia z mladších vekových skupín, zväčša ich však zdieľajú ľudia po päťdesiatke / šesťdesiatke. Keďže celé video bolo urobené v spolupráci  s televíziou Markíza, s jednou najväčších a najstarších televízií u nás, mohlo by toto byť akýmsi „kickerom“, aby si aj staršie vekové kategórie začali viac overovať fakty? Je v tvojom záujme pokračovať v tejto kampani a preniesť ju postupne z „deepfake“ videí na hoaxy a dezinformácie?

Áno, plány sú. Momentálne už aj na niečom pracujeme, to má v hlavnej réžií O2, čo vidno aj na ich facebookovej či instagramovej stránke. To je však už v ich gescii, ak som to správne pochopil, tak do tejto kampane by malo byť zapojených aj viacero influencerov, ktorí sa k tejto téme budú postupne vyjadrovať. Ústrednou postavou je spolupáchateľka aj môjho videa, Kristína Tormová, ktorá k tejto problematike má čo povedať.

Mojou úlohou v rámci tejto kampane je technologická osveta. Ja som v prvom rade odborník na technológie a najmä umelú inteligenciu, konšpirácie, hoaxy a dezinformácie nie sú mojou hlavnou doménou.

Na tieto veci mám svoj názor, snažím sa ale zameriavať predovšetkým na ich technologickú a vedeckú časť. Môžem však povedať, že ľudia preto tak razantne reagujú na šokujúce nadpisy, lebo to majú v sebe „zakódované“ už od čias lovenia mamutov.

 Načítava sa... ...

Vhodný anglický výraz by bol „if it bleeds, it leads“ (pozn.redakcie čo krváca, to vedie). V minulosti v podstate prežili len tí „najustráchanejší“, tí ktorí sa báli úplne všetkého. Keďže my sme potomkovia tých najustráchanejších a najopatrnejších ľudí, sme tiež „bojkovia“ a keď vidíme v nadpise niečo, čo má súvis so zdravým alebo nebodaj smrťou, ihneď spozornieme. Samozrejme sa to zneužíva, pretože je to všeobecne známe, a preto aj nadpisy sú vždy takéhoto štýlu.

Aj video so Zlaticou Puškárovou bolo v médiách, ako vždy clickbaitov pomenované: „Zlatica Puškárová povedala, že rúška nemajú význam“. Keď si si to však pozrel, zistil si, ako to bolo myslené, že to je podvod, ale pod článkom aj tak boli komentáre typu „ja som to vedel/a, konečne sa odhalila pravda“. Tu bolo vidieť, že kampaň trafila do čierneho. Ľudia nečítajú čo zdieľajú.

Zobraziť celú galériu (1)

Je rok 2021 tým rokom, kedy si deepfake video dokáže vytvoriť bežný človek alebo je to stále príliš komplikované?

Neskromne poviem, že video takejto kvality ako sme vytvorili my vyžaduje veľa času, veľa úsilia a veľa umu. Netvrdím, že naše video bolo dokonalé, to nebolo ani cieľom, cieľom bolo upozorniť, že deepfake sa približuje k dokonalosti. Bežný používateľ však video takejto kvality vytvárať nepotrebuje a dokáže zmätok vo svete vytvoriť aj pomocou rôznych aplikácií.

V súčasností sú k dispozícii aplikácie na výmenu tváre ako napr. Reface, ktoré si každý môže stiahnuť na svoj mobil. Okrem toho však existujú aj profesionálnejšie aplikácie, my konkrétne sme použili aplikáciu FaceSwap.dev, čo je aplikácia, kde sa dajú robiť pokročilejšie projekty.

Čo sa týka počítača, stačí ti herný počítač s dobrou grafikou, pretože uvedená a podobné aplikácie si to na vykresľovanie tváre vyžadujú – tento proces trvá v podstate niekoľko dní. Ak máš len bežný počítač, prípadne notebook, tak si budeš musieť počkať možno aj niekoľko týždňov, aby si dosiahol vysokokvalitný model. Každý z nás má teda možnosť vytvoriť si takéto video. Našim cieľom však nie je navádzať ľudí na ich vytváranie, ale poukázať na to, že takéto videá je možné vytvárať.

Stále sme ale v rovine, že je potrebné niekoľko stoviek eur investovať do hardvéru, veľa sa učiť, takže nie je to také jednoduché ako si len kúpiť hosting, doménu a napísať klamlivý zavádzajúci článok. Zatiaľ to teda ešte nie je úplne komerčná záležitosť. V budúcnosti, za pár rokov, k tomu však jednoznačne dospejeme.

Vyriešilo by niečo, ak by sme problematiku dezinformácií mali podchytenú v zákonoch?

Neviem si veľmi predstaviť, že by to mali usmerňovať zákony, alebo niekto „zhora“, skôr si myslím, že riešene by malo prísť zdola. Ľudia si musia vytvoriť „spoločenskú objednávku“, lebo politik s tým nepríde.

Najväčší dezinformátori v rámci politiky sú tí, ktorí majú najväčší dosah na Facebooku a tí, ktorí sa snažia tieto nezmysli vyvracať sa strácajú veľkom rybníku, kde prevládajú tí, ktorí majú najväčší dosah. Nie je to technologický problém Facebooku? 

Tu je veľmi tenká línia medzi sieťovou neutralitou, slobodným šírením informácií a cenzúrou. Ono je problém v niektorých krajinách odstraňovať aj oveľa vážnejšie a najmä nepovolené veci. Napríklad v Amerike majú Prvý dodatok k ústave Spojených štátov, ktorá im v podstate umožňuje hovoriť čo chcú.

Ide o dôležitú problematiku, ale riešenie zhora v tomto prípade zasa nič nové neprinesie, pretože časť spoločnosti si bude myslieť, že ide o cenzúru. Problém vidím aj v mainstreamových stránkach a médiach, ktoré síce sú objektívne, ale jednostranné, čo tomuto problému tiež veľmi nepomáha.

Zobraziť celú galériu (1)

Freepik (Úprava redakcie)/TASR - Jakub Kotian

Stretli sme sa už na Slovensku v predchádzajúcich rokoch s nejakým kvalitne vytvoreným deepfake videom na verejnosti?

Nebolo to úplne na verejnosti. Máme však na Slovensku človeka, ktorý je považovaný za svetovú špičku medzi deepfakermi, je známy pod prezývkou Ctrl Shift Face a vie sa o ňom len, že je to Tomáš z Trnavy a žije v Brne a spolupracuje aj s filmovými štúdiami. Keď si však pozrieš jeho videá, tak zistíš, že on je skutočne špička, čo sa odráža aj na počte jeho sledovateľov (takmer 500-tisíc).

On tiež používa jednu z vyššie spomínaných aplikácií, ktorú sa úplne dokonalo naučil používať. Zaujímavé však je, že v podstate toto by mohol robiť každý z nás. Veď si stačí len stiahnuť aplikáciu a robiť v nej až dovtedy, pokým nebudeš taký dobrý ako je on.

Čisto v hypotetickej rovine, myslíš si, že budú deepfake technológie v budúcnosti mocnejším nástrojom na šírenie dezinformácií ako súčasne sociálne siete a články?

Deepfake sa bude neustále zlepšovať, limitom tu je len realita. Takže skôr či neskôr deepfake bude fotorealistický. Jednoducho nebudeš vedieť rozoznať, čo kto povedal. Vezmi si len naše video, áno nie je dokonalé, technológie majú svoje limity a keď sa na to niekto dobre pozrie, hneď je mu jasné, že niečo nie je v poriadku, ale tak to je stále len rok 2021.

Koľko stála výroba videa?

To naozaj neviem, to vie len O2, k týmto veciam nemám ja dosah.

Aspoň orientačne ako odborník by si to vedel odhadnúť? Je to viac ako 10 000 €?

Je to určite dramaticky vyššie ako 10 000 €.

Keď som sa prvýkrát pozrel na video, zamyslel som sa nad tým, že ak by som nevedel, že to je kampaň O2, tak by som tomu asi aj naozaj uveril. Myslíš si, že ak si to pozrie laik, ktorý sa v tomto neorientuje, uverí videu?

Realistickosť tomu dodáva najmä hlas. Keďže Puškárová ma neuveriteľné množstvo verejného záznamu, tak ma napadlo vystrihnúť niektoré slova a spojiť ich dokopy. Zvukár nám to celé upravil, aby to intonačne ladilo, a zafungovalo to. Síce to nie je úplne dokonalé, ale nemáš možnosť si to nijako všimnúť. Až keď sa nad tým zamyslíš, uvidíš, že hovorí zvláštne, intonačne, ale spočiatku si to vôbec nevšimneš.

Fascinujúce aj desivé zároveň je to, aké ľahké to vlastne je. Ja som preto tiež hneď vydal prehlásenie, aby nenastali žiadne nedorozumenia.