Facebook a Instagram sa zmenia. Jeden druh príspevkov dostane úplný zákaz

Deepfake sa pomaly stáva rakovinou online priestoru. Naša spoločnosť akosi nestíha tomuto trendu a ten začína byť poriadne nebezpečný a nepríjemný, obzvlášť pre ženy.

Najnovšie prípady vygenerovania pornografickej AI fotografie vyvolali poriadny rozruch. Prsty v tom má, ako inak, Meta, ktorá reagovala na dva takmer identické situácie nekonzistentne. O probléme informoval portál TechCrunch.

Perverzný nástroj „oblbol“ Metu

Nástroje umelej inteligencie vedia človeku pomôcť, ale aj ublížiť mu. Azda najneetickejším prostriedkom AI sa stal nástroj na vytváranie pornografických obrázkov.

Čo je horšie, umelá inteligencia sa čoraz viac zdokonaľuje a vygenerované obrázky začínajú splývať s realitou a často je ťažké ich odhaliť. Čo je však úplne najhoršie, je to, ak niektorý používateľ uverejní takúto fotku v online priestore.

Konkrétne máme na mysli sociálne siete. Pred pár dňami sa odohrali dve veľmi podobné situácie – jedna v Indii, druhá v USA. Prvý prípad sa stal v Indii, kde tamojší instagramový účet zverejnil pornografický AI obrázok verejne známej osobnosti, ktorý zavesil na svoj profil.

Tento účet pravidelne uverejňuje fotografie indických žien vytvorené pomocou umelej inteligencie a väčšina používateľov, ktorí na tento obsah reaguje, pochádza z Indie. Istý používateľ nahlásil túto chúlostivú fotku prostredníctvom nástroja v Instagrame.

Pasivita giganta

Čuduj sa svete, Meta na tento prvý report nereagovala a vlákno pre nahlásenie sa automaticky po 48 hodinách uzavrelo s tým, že spoločnosť tento podnet nebude prehodnocovať.

Freepik/Unsplash/Omid Armin

Keď sa pôvodný sťažovateľ proti tomuto rozhodnutiu odvolal, vlákno sa opäť uzavrelo bez akéhokoľvek spätného preverenia zo strany Mety. Pornografický AI obrázok tak na Instagrame ostal publikovaný aj po dvoch nahláseniach.

Používateľ sa napokon odvolal na predstavenstvo americkej spoločnosti. Až v tomto momente sa gigant „zobudil“ a nežiadúci obsah z Instagramu odstránil z dôvodu porušenia jeho komunitných noriem týkajúcich sa šikanovania a obťažovania.

Rôzny prístup k trhom?

Druhý problémový prípad sa týka Facebooku, kde používateľ zverejnil pornografický obrázok vygenerovaný umelou inteligenciou pripomínajúci americkú verejne známu osobu. Meta v tomto prípade bola neporovnateľne rýchlejšia a obrázok zmizol z priestoru prakticky okamžite.

„Vieme, že Meta je rýchlejšia a efektívnejšia pri moderovaní obsahu na niektorých trhoch a v niektorých jazykoch ako na iných. Keď vezmeme jeden prípad z USA a jeden z Indie, chceme sa pozrieť na to, či Meta chráni všetky ženy na celom svete spravodlivým spôsobom,“ uviedla vo vyhlásení spolupredsedníčka dozornej rady Helle Thorning-Schmidtová.

Nuž, zdá sa, že nechráni. Ako je možné, že na niektorom trhu Meta odstráni problematický obrázok prakticky okamžite a bez nahlásenia a na inom sa dotknutá osoba nemusí dočkať ani po nahlásení a odvolaní? Povieš si, že je to prípad Indie. No kde je garancia toho, že sa rovnaký problém nemôže vyskytnúť hocijakej žene na Slovensku – či už na Facebooku alebo na Instagrame?

(Ne)dokonalá AI

Meta uviedla, že na detekciu obsahu so sexuálnym podtextom používa kombináciu umelej inteligencie a ľudskej kontroly. Zjavne však ich vlastná umelá inteligencia zlyháva na plnej čiare a nedokáže identifikovať stále prezieravejšie formy „súperiacej“ AI.

V dobe, kedy nástroje umožňujú používateľom rýchlo a jednoducho vytvárať a distribuovať rôzne typy obsahu, ide o neprijateľnú situáciu. Zamyslieť by sa však nemali len prevádzkovatelia sociálnych sietí, ale aj spoločnosti, ktoré majú v portfóliu „pornografický“ druh AI.

Modely umelej inteligencie by mali mať striktné obmedzenia, ktoré zabránia používateľom vo vytváraní explicitného obsahu reálnej osoby. „Musíme najprv zabrániť vytváraniu takéhoto obsahu trénovaním modelov AI, aby sme obmedzili výstup v prípade, že je jasný zámer niekomu ublížiť. Mali by sme tiež zaviesť predvolené označovanie pre ľahkú detekciu,“ vyjadrila sa indická expertka Aparajita Bharti pre TechCrunch prostredníctvom e-mailu.

Zákony sa implementujú pomaly

V Indii sa deepfake obsah stal obrovským problémom. Vlaňajšia správa od BBC poznamenáva, že počet falošných videí indických herečiek prudko vzrástol v nedávnom období. To neuniklo pozornosti ani osôb vo vláde. Začiatkom tohto roka námestník ministra pre IT, Rajeev Chandrasekhar, vyjadril nespokojnosť s prístupom technologických spoločností k boju proti deepfake.

„Ak si nejaká platforma myslí, že sa z tohto môže vyvliecť bez toho, aby stiahla deepfake videá, alebo si k ním zachová neformálny prístup, máme právomoc chrániť našich občanov zablokovaním takýchto platforiem,“ povedal Chandrasekhar v tom čase na tlačovej konferencii.

Indickí predstavitelia uvažovali o legislatívnej úprave, ktorá by súvisela s deepfake, no zatiaľ nebolo prijaté absolútne nič. V súčasnosti existuje na celom svete len niekoľko zákonov, ktoré sa zaoberajú výrobou a distribúciou pornografie generovanej pomocou nástrojov AI.

Ide o niekoľko štátov USA, ku ktorým sa tento týždeň pridalo aj Spojené kráľovstvo. Briti kriminalizovali vytváranie sexuálne explicitných obrázkov vytvorených umelou inteligenciou. Kedy sa k ním pridajú ďalšie štáty je však otázne. Táto deepfake bomba však môže kedykoľvek vybuchnúť a v hre sú životy prakticky všetkých žien, ktoré majú fotografiu v online priestore.

Čítajte viac z kategórie: Aplikácie