Facebook chce zatočiť s deepfake obsahom. Vyvinul prelomovú technológiu na odhalenie falošných obrázkov

Deepfake obrázky a videá patria v dnešnej dobe medzi veľmi rozšírené fenomény, ktoré sa po internete často šíria závratnou rýchlosťou. Od neškodných vtipov a zábavných videí siahajú až po nebezpečné dezinformačné kampane, na ktoré poukázalo aj nedávne slovenské deepfake video so Zlaticou Puškárovou.

Facebook sa už dlhšiu dobu prezentuje ako veľký „bojovník“ proti deepfake a najnovšie posúva svoje možnosti na novú úroveň. V spolupráci s výskumníkmi z Michiganskej štátnej univerzity totiž vyvinul softvér, ktorý podľa spoločnosti dokáže deepfake obrázky nie len odhaliť, ale aj identifikovať ich pôvod, upozornil Engadget.

Facebook sa spojil s výskumníkmi v boji proti deepfake obrázkom

Softvér s názvom FB-MSU s využitím umelej inteligencie sa spolieha na reverzné inžinierstvo alebo spätnú analýzu umelo generovaného obsahu a od jediného deepfake obrázku sa dokáže dopracovať až k modelu, ktorý bol použitý na jeho výrobu. Spoločnosť však vo svojom príspevku tvrdí, že oproti existujúcim softvérom, ktoré podobné veci dokážu, je model Facebooku schopný odhaliť aj doposiaľ neznáme techniky.

Zobraziť celú galériu (3)

Facebook

Výskumníci pri procese vývoja najskôr nechali prejsť sadu deepfake fotografií cez sieť na detekciu jednotlivých „odtlačkov“, ktorá je schopná rozlíšiť jemné vzory vtlačené do obrázkov prostredníctvom konkrétneho zariadenia, respektíve fotoaparátu, ktorý ich nasnímal.

Rovnaký postup platí aj pri prvotnej identifikácii deepfake obrázkov, keďže každý známy falzifikačný model a technika majú svoje špecifické vlastnosti, ktoré vtláčajú do svojich „výtvorov“. Nazbierané odtlačky z deepfake obrázkov potom softvér analyzoval a vytvoril z nich tzv. hyperparametre, z ktorých dokázal vytvoriť unikátny generatívny model.

NEPREHLIADNI
ROZHOVOR: Deepfake video s Puškárovou konečne otvorilo oči Slovákom a toto je len začiatok, vraví spoluautor Martin Spano

Podľa toho následne dokázal cez identifikáciu jednotlivých odtlačkov a vlastností obrázkov detegovať deepfake obrázok a zároveň vyhodnotiť, prostredníctvom akého modelu či techniky bol vyrobený bez akejkoľvek predchádzajúcej znalosti tohto modelu.

Facebook proces prirovnáva k situácii, kedy by softvér dokázal identifikovať rôzne súčasti motora automobilu iba na základe zvuku, ktorý vydáva na voľnobežných otáčkach.

Keďže však ide o prvý systém svojho druhu, tím FB-MSU zatiaľ nedokázal vyhodnotiť jeho úspešnosť, efektivitu a ani porovnať výsledky s inými východiskovými metódami. Podľa Facebooku však ide o prelomovú metódu v rozpoznávaní deepfake obrázkov a videí pri identifikácii ich pôvodu, čo prinesie významnú pomoc regulátorom sociálnych médií pri sledovaní koordinovaných dezinformačných kampaní, ktoré deepfake často využívajú.

Čítajte viac z kategórie: Novinky