Facebook a Instagram sa zmenia. Jeden druh príspevkov dostane úplný zákaz
Deepfake sa pomaly stáva rakovinou online priestoru. Naša spoločnosť akosi nestíha tomuto trendu a ten začína byť poriadne nebezpečný a nepríjemný, obzvlášť pre ženy.
Najnovšie prípady vygenerovania pornografickej AI fotografie vyvolali poriadny rozruch. Prsty v tom má, ako inak, Meta, ktorá reagovala na dva takmer identické situácie nekonzistentne. O probléme informoval portál TechCrunch.
Perverzný nástroj „oblbol“ Metu
Nástroje umelej inteligencie vedia človeku pomôcť, ale aj ublížiť mu. Azda najneetickejším prostriedkom AI sa stal nástroj na vytváranie pornografických obrázkov.
Čo je horšie, umelá inteligencia sa čoraz viac zdokonaľuje a vygenerované obrázky začínajú splývať s realitou a často je ťažké ich odhaliť. Čo je však úplne najhoršie, je to, ak niektorý používateľ uverejní takúto fotku v online priestore.
Konkrétne máme na mysli sociálne siete. Pred pár dňami sa odohrali dve veľmi podobné situácie – jedna v Indii, druhá v USA. Prvý prípad sa stal v Indii, kde tamojší instagramový účet zverejnil pornografický AI obrázok verejne známej osobnosti, ktorý zavesil na svoj profil.
Tento účet pravidelne uverejňuje fotografie indických žien vytvorené pomocou umelej inteligencie a väčšina používateľov, ktorí na tento obsah reaguje, pochádza z Indie. Istý používateľ nahlásil túto chúlostivú fotku prostredníctvom nástroja v Instagrame.
Pasivita giganta
Čuduj sa svete, Meta na tento prvý report nereagovala a vlákno pre nahlásenie sa automaticky po 48 hodinách uzavrelo s tým, že spoločnosť tento podnet nebude prehodnocovať.
Keď sa pôvodný sťažovateľ proti tomuto rozhodnutiu odvolal, vlákno sa opäť uzavrelo bez akéhokoľvek spätného preverenia zo strany Mety. Pornografický AI obrázok tak na Instagrame ostal publikovaný aj po dvoch nahláseniach.
Používateľ sa napokon odvolal na predstavenstvo americkej spoločnosti. Až v tomto momente sa gigant „zobudil“ a nežiadúci obsah z Instagramu odstránil z dôvodu porušenia jeho komunitných noriem týkajúcich sa šikanovania a obťažovania.
Rôzny prístup k trhom?
Druhý problémový prípad sa týka Facebooku, kde používateľ zverejnil pornografický obrázok vygenerovaný umelou inteligenciou pripomínajúci americkú verejne známu osobu. Meta v tomto prípade bola neporovnateľne rýchlejšia a obrázok zmizol z priestoru prakticky okamžite.
„Vieme, že Meta je rýchlejšia a efektívnejšia pri moderovaní obsahu na niektorých trhoch a v niektorých jazykoch ako na iných. Keď vezmeme jeden prípad z USA a jeden z Indie, chceme sa pozrieť na to, či Meta chráni všetky ženy na celom svete spravodlivým spôsobom,“ uviedla vo vyhlásení spolupredsedníčka dozornej rady Helle Thorning-Schmidtová.
Nuž, zdá sa, že nechráni. Ako je možné, že na niektorom trhu Meta odstráni problematický obrázok prakticky okamžite a bez nahlásenia a na inom sa dotknutá osoba nemusí dočkať ani po nahlásení a odvolaní? Povieš si, že je to prípad Indie. No kde je garancia toho, že sa rovnaký problém nemôže vyskytnúť hocijakej žene na Slovensku – či už na Facebooku alebo na Instagrame?
(Ne)dokonalá AI
Meta uviedla, že na detekciu obsahu so sexuálnym podtextom používa kombináciu umelej inteligencie a ľudskej kontroly. Zjavne však ich vlastná umelá inteligencia zlyháva na plnej čiare a nedokáže identifikovať stále prezieravejšie formy „súperiacej“ AI.
V dobe, kedy nástroje umožňujú používateľom rýchlo a jednoducho vytvárať a distribuovať rôzne typy obsahu, ide o neprijateľnú situáciu. Zamyslieť by sa však nemali len prevádzkovatelia sociálnych sietí, ale aj spoločnosti, ktoré majú v portfóliu „pornografický“ druh AI.
Modely umelej inteligencie by mali mať striktné obmedzenia, ktoré zabránia používateľom vo vytváraní explicitného obsahu reálnej osoby. „Musíme najprv zabrániť vytváraniu takéhoto obsahu trénovaním modelov AI, aby sme obmedzili výstup v prípade, že je jasný zámer niekomu ublížiť. Mali by sme tiež zaviesť predvolené označovanie pre ľahkú detekciu,“ vyjadrila sa indická expertka Aparajita Bharti pre TechCrunch prostredníctvom e-mailu.
Zákony sa implementujú pomaly
V Indii sa deepfake obsah stal obrovským problémom. Vlaňajšia správa od BBC poznamenáva, že počet falošných videí indických herečiek prudko vzrástol v nedávnom období. To neuniklo pozornosti ani osôb vo vláde. Začiatkom tohto roka námestník ministra pre IT, Rajeev Chandrasekhar, vyjadril nespokojnosť s prístupom technologických spoločností k boju proti deepfake.
„Ak si nejaká platforma myslí, že sa z tohto môže vyvliecť bez toho, aby stiahla deepfake videá, alebo si k ním zachová neformálny prístup, máme právomoc chrániť našich občanov zablokovaním takýchto platforiem,“ povedal Chandrasekhar v tom čase na tlačovej konferencii.
Indickí predstavitelia uvažovali o legislatívnej úprave, ktorá by súvisela s deepfake, no zatiaľ nebolo prijaté absolútne nič. V súčasnosti existuje na celom svete len niekoľko zákonov, ktoré sa zaoberajú výrobou a distribúciou pornografie generovanej pomocou nástrojov AI.
Ide o niekoľko štátov USA, ku ktorým sa tento týždeň pridalo aj Spojené kráľovstvo. Briti kriminalizovali vytváranie sexuálne explicitných obrázkov vytvorených umelou inteligenciou. Kedy sa k ním pridajú ďalšie štáty je však otázne. Táto deepfake bomba však môže kedykoľvek vybuchnúť a v hre sú životy prakticky všetkých žien, ktoré majú fotografiu v online priestore.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Krutá pravda o Ficovi, Dankovi či Šimečkovi? Spýtali sme sa AI, čo si myslí o slovenských politikoch
Jedna z najlepších funkcií ChatGPT je konečne zadarmo. OpenAI pridáva aj bezpečnostné novinky
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
NAJČÍTANEJŠIE ZO STARTITUP
MIMORIADNE: Polícia zadržala známeho podnikateľa. Je podozrivý zo zločinu voči maloletým
Zabraňuje návalom hladu a brzdí priberanie: Biohacking trik Kristen Bell zaujal odborníkov na výživu
Obyčajný zápal močového mechúra môže byť prvým príznakom rakoviny. Vedci objavili prekvapivú súvislosť
Prelomový objav v boji s Parkinsonovou chorobou: Vedci odhalili, ako toxické proteíny ničia bunky
Andrej Danko končí vo funkcii: SNS má nového šéfa klubu
- 24 hod
- 48 hod
- 7 dní
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Slovákom leží v zuboch dodnes. Toto je príbeh filmu, kvôli ktorému Habera zažaloval Tarantinovho žiaka
- Vedci ostali šokovaní: ChatGPT vyriešil 2000-ročný matematický problém kurióznym spôsobom
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
- Slovákom leží v zuboch dodnes. Toto je príbeh filmu, kvôli ktorému Habera zažaloval Tarantinovho žiaka
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Ponúka silný motor za dostupné ceny. Volkswagen spustil na Slovensku predpredaj nového SUV
-
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
Poľsko sa výrazne vojensky vyzbrojuje. Do konca roka chce posilniť svoju kľúčovú zónu
Kybernetická éra sa ukázala v Košiciach. SlovakiaTech 2025 láme všetky očakávania
Realita o elektroautách prekvapila celé Slovensko. Len malá časť ľudí má reálnu skúsenosť za volantom
Nečakaná krajina zbrojí na úroveň veľmocí. Od Izraelu kúpila zbrane za vyše 2 miliardy eur
Nenápadný faktor nás oberá o miliardy eur: Európska únia je pod tlakom extrémnych javov, ničia ekonomiku štátov
NAJČÍTANEJŠIE ZO STARTITUP