Zaplavenie internetu digitálnym odpadom: 3 overené spôsoby, ako okamžite odhaliť AI podvody

Predstav si, že prechádzaš sociálne siete a narazíš na dychberúce zábery tvojich obľúbených celebrít na Met Gala v New Yorku. Rihanna, Beyoncé či Lady Gaga vyzerajú úžasne, no má to jeden háčik. Niektoré z týchto hviezd tam v skutočnosti vôbec neboli. Fotografie, ktoré nazbierali tisíce lajkov, vygenerovala umelá inteligencia. A hoci nevinné fejky celebrít môžu pôsobiť neškodne, takzvaný „AI slop“ (digitálny balast) naberá oveľa nebezpečnejšie rozmery.

Tradičné techniky overovania začínajú zlyhávať. Hranica medzi realitou a syntetickým obsahom sa stiera rýchlosťou, akú sme doteraz nezažili. Tvorba presvedčivého deepfaku dnes trvá pár sekúnd, zatiaľ čo jeho vyvrátenie môže odborníkom zabrať hodiny či dni. Žijeme v dobe, kedy vizuálnemu obsahu už jednoducho nemôžeme bezhlavo veriť.

Tieto znepokojivé trendy potvrdzujú aj odborníci, pričom, ako vyplynulo z najnovších zistení, na úspešný boj s dezinformáciami musíme zmeniť spôsob, akým konzumujeme obsah na internete. Aby si sa nenechal nachytať, stačí začať uplatňovať tri základné pravidlá hry.

1. Priblíž obraz a hľadaj anomálie

Prvým krokom je naučiť sa pozerať na detaily. Keď narazíš na podozrivé video či fotografiu, neváhaj ju priblížiť alebo video spomaliť a sledovať ho snímku po snímke. Generátory umelej inteligencie majú stále problém s konzistentnosťou a drobnými fyzikálnymi zákonmi.

• Nerealistické textúry: Sleduj povrchy, ktoré by mali mať textúru (napríklad ľudská pokožka či tkaniny), no vyzerajú neprirodzene hladko alebo naopak rozmazane.
• Tiene a perspektíva: Padajú tiene prirodzene podľa svetelného zdroja? Sledujú línie v pozadí pravidlá perspektívy? AI často vytvorí tiene, ktoré smerujú na rôzne strany.
• Detaily pozadia: Generátory sa sústredia na hlavný objekt, no v pozadí často zanechávajú deformované tváre, divné nápisy alebo objekty, ktoré splývajú s okolím.

Svet sa mení obrovským tempom a to, čo bolo kedysi sci-fi, je dnes bežnou realitou. Vývoj v tejto oblasti napreduje tak rýchlo, že prakticky v priamom prenose sledujeme, ako prichádza nová éra hernej grafiky a vizuálnych technológií. S dokonalejšími nástrojmi však prichádza aj nutnosť byť ostražitejší.

2. Skúmaj širší kontext, nie iba obraz

Overovatelia faktov sa nespoliehajú len na to, čo vidia. Často je oveľa dôležitejšie preskúmať to, čo sa nachádza *okolo* príspevku. Keď uvidíš šokujúce video, polož si zásadné otázky. Kto ho zverejnil? Ako dlho tento účet existuje? Publikuje pravidelne dôveryhodné správy, alebo ide o novovytvorený profil, ktorý len zbiera kliknutia?

Pozor si treba dávať aj na takzvané overené účty. Dnes už modrá fajka na Facebooku či sieti X neznamená automatickú dôveryhodnosť, keďže tieto platformy umožňujú používateľom si overenie jednoducho zaplatiť. Skutoční odborníci navyše pri analýzach pátrajú po neviditeľných vodoznakoch v kóde súborov, ktoré tam generatívne nástroje zanechávajú.

3. Prípadová štúdia: Falošný škandál na letisku

Ako to vyzerá v praxi? Výskumníci analyzovali virálne video zo sociálnych sietí, ktoré údajne zobrazovalo austrálsku políciu, ako na letisku zastavuje a otáča migrantov. Video pôsobilo veľmi emotívne a realisticky, no detailná analýza odhalila pravdu.

Pri pomalom prehrávaní sa ukázalo, že ľudia v rade sa zvláštne deformujú a menia tváre. Policajt na videu držal podložku na písanie, z ktorej papier mizol neprirodzeným spôsobom a zanechával za sebou biele pásy. Navyše, policajné vesty vôbec nezodpovedali skutočným uniformám austrálskej federálnej polície. AI skrátka nedokázala dokonale replikovať realitu, hoci na prvý pohľad video pôsobilo mimoriadne presvedčivo.

Čítajte viac z kategórie: Umelá inteligencia / AI