Pentagon sa pre tento krok rozhodol aj napriek tomu, že vláda Spojených štátov opakovane varovala pred hrozbami spojenými s deepfake technológiami a ďalšími nástrojmi na vytváranie falošného digitálneho obsahu.

Takéto praktiky môžu prispieť k ešte väčšej kríze dezinformácií, tá už teraz predstavuje vážny problém. Tvorba falošných ľudí na internete priamo ohrozuje schopnosť ľudí rozlíšiť pravdu od fikcie a takéto situácie môžu mať vážne dôsledky na dôveru v informácie, ktoré sú dostupné online.

Vláda USA sa už dlhodobo obáva, že AI vytvorí prostredie, kde bude čoraz ťažšie overiť si pravdivosť informácií. Umelá inteligencia je schopná generovať až príliš realistické obrázky a videá, ktoré dokážu oklamať verejnosť. Tým, že samotné Spojené štáty investujú do tejto technológie na účely dohľadu a manipulácie môžu taktiež nepriamo podporiť podobné praktiky aj u svojich rivalov a potenciálnych nepriateľov.

Kým v minulosti bola AI využívaná predovšetkým na analýzu dát, dnes sa používa priamo na vytváranie obsahu. To znamená, že digitálna vojna sa môže čoskoro presunúť z čisto pasívneho zberu informácií do aktívneho ovplyvňovania diskusií a verejného diskurzu.

Freepik (Úprava redakcie)

Významnou súčasťou tejto stratégie je aj využitie deepfake technológií, ktoré umožňujú vytvárať falošné videá a obrázky také realistické, že sú takmer nerozoznateľné od skutočnosti. Pentagon sa podľa všetkého snaží využiť tieto možnosti na rozšírenie svojich schopností v oblasti informačnej vojny. Ak sa deepfake stane bežnou súčasťou vojenských operácií, môže to zásadne zmeniť podobu nielen vojenských, ale aj diplomatických a politických konfliktov.

Svetové dopady

Odborníci varujú, že rozšírené používanie takýchto AI nástrojov v rámci americkej armády môže motivovať aj ostatné krajiny k podobným krokom. Ak sa technológia na vytváranie falošných postáv stane súčasťou oficiálnych vojenských stratégií, iné krajiny by mohli začať implementovať podobné metódy.

Bing Image Creator

To by viedlo k ešte väčšiemu prehĺbeniu krízy dezinformácií a narušeniu medzinárodných vzťahov. Heidy Khlaaf, odborníčka na umelú inteligenciu sa vyjadrila, že tento trend len povzbudí ďalšie armády a vlády k tomu, aby sa pridali k používaniu rovnakých praktík. Výsledkom však môže byť svet, kde bude čoraz ťažšie odhaliť pravdu a udržiavať dôveryhodné zdroje informácií.

Zatiaľ čo umelá inteligencia otvára nové možnosti, vyvoláva aj závažné etické otázky. Ak sa umelo generované postavy stanú súčasťou armádnych operácií, svet sa ocitne na hranici, kde bude ešte ťažšie rozlišovať medzi realitou a fikciou. Zostáva otázne, ako sa k tejto výzve postavia iné krajiny.