Facebook a Instagram sa zmenia. Jeden druh príspevkov dostane úplný zákaz
Deepfake sa pomaly stáva rakovinou online priestoru. Naša spoločnosť akosi nestíha tomuto trendu a ten začína byť poriadne nebezpečný a nepríjemný, obzvlášť pre ženy.
Najnovšie prípady vygenerovania pornografickej AI fotografie vyvolali poriadny rozruch. Prsty v tom má, ako inak, Meta, ktorá reagovala na dva takmer identické situácie nekonzistentne. O probléme informoval portál TechCrunch.
Perverzný nástroj „oblbol“ Metu
Nástroje umelej inteligencie vedia človeku pomôcť, ale aj ublížiť mu. Azda najneetickejším prostriedkom AI sa stal nástroj na vytváranie pornografických obrázkov.
Čo je horšie, umelá inteligencia sa čoraz viac zdokonaľuje a vygenerované obrázky začínajú splývať s realitou a často je ťažké ich odhaliť. Čo je však úplne najhoršie, je to, ak niektorý používateľ uverejní takúto fotku v online priestore.
Konkrétne máme na mysli sociálne siete. Pred pár dňami sa odohrali dve veľmi podobné situácie – jedna v Indii, druhá v USA. Prvý prípad sa stal v Indii, kde tamojší instagramový účet zverejnil pornografický AI obrázok verejne známej osobnosti, ktorý zavesil na svoj profil.
Tento účet pravidelne uverejňuje fotografie indických žien vytvorené pomocou umelej inteligencie a väčšina používateľov, ktorí na tento obsah reaguje, pochádza z Indie. Istý používateľ nahlásil túto chúlostivú fotku prostredníctvom nástroja v Instagrame.
Pasivita giganta
Čuduj sa svete, Meta na tento prvý report nereagovala a vlákno pre nahlásenie sa automaticky po 48 hodinách uzavrelo s tým, že spoločnosť tento podnet nebude prehodnocovať.
Keď sa pôvodný sťažovateľ proti tomuto rozhodnutiu odvolal, vlákno sa opäť uzavrelo bez akéhokoľvek spätného preverenia zo strany Mety. Pornografický AI obrázok tak na Instagrame ostal publikovaný aj po dvoch nahláseniach.
Používateľ sa napokon odvolal na predstavenstvo americkej spoločnosti. Až v tomto momente sa gigant „zobudil“ a nežiadúci obsah z Instagramu odstránil z dôvodu porušenia jeho komunitných noriem týkajúcich sa šikanovania a obťažovania.
Rôzny prístup k trhom?
Druhý problémový prípad sa týka Facebooku, kde používateľ zverejnil pornografický obrázok vygenerovaný umelou inteligenciou pripomínajúci americkú verejne známu osobu. Meta v tomto prípade bola neporovnateľne rýchlejšia a obrázok zmizol z priestoru prakticky okamžite.
„Vieme, že Meta je rýchlejšia a efektívnejšia pri moderovaní obsahu na niektorých trhoch a v niektorých jazykoch ako na iných. Keď vezmeme jeden prípad z USA a jeden z Indie, chceme sa pozrieť na to, či Meta chráni všetky ženy na celom svete spravodlivým spôsobom,“ uviedla vo vyhlásení spolupredsedníčka dozornej rady Helle Thorning-Schmidtová.
Nuž, zdá sa, že nechráni. Ako je možné, že na niektorom trhu Meta odstráni problematický obrázok prakticky okamžite a bez nahlásenia a na inom sa dotknutá osoba nemusí dočkať ani po nahlásení a odvolaní? Povieš si, že je to prípad Indie. No kde je garancia toho, že sa rovnaký problém nemôže vyskytnúť hocijakej žene na Slovensku – či už na Facebooku alebo na Instagrame?
(Ne)dokonalá AI
Meta uviedla, že na detekciu obsahu so sexuálnym podtextom používa kombináciu umelej inteligencie a ľudskej kontroly. Zjavne však ich vlastná umelá inteligencia zlyháva na plnej čiare a nedokáže identifikovať stále prezieravejšie formy „súperiacej“ AI.
V dobe, kedy nástroje umožňujú používateľom rýchlo a jednoducho vytvárať a distribuovať rôzne typy obsahu, ide o neprijateľnú situáciu. Zamyslieť by sa však nemali len prevádzkovatelia sociálnych sietí, ale aj spoločnosti, ktoré majú v portfóliu „pornografický“ druh AI.
Modely umelej inteligencie by mali mať striktné obmedzenia, ktoré zabránia používateľom vo vytváraní explicitného obsahu reálnej osoby. „Musíme najprv zabrániť vytváraniu takéhoto obsahu trénovaním modelov AI, aby sme obmedzili výstup v prípade, že je jasný zámer niekomu ublížiť. Mali by sme tiež zaviesť predvolené označovanie pre ľahkú detekciu,“ vyjadrila sa indická expertka Aparajita Bharti pre TechCrunch prostredníctvom e-mailu.
Zákony sa implementujú pomaly
V Indii sa deepfake obsah stal obrovským problémom. Vlaňajšia správa od BBC poznamenáva, že počet falošných videí indických herečiek prudko vzrástol v nedávnom období. To neuniklo pozornosti ani osôb vo vláde. Začiatkom tohto roka námestník ministra pre IT, Rajeev Chandrasekhar, vyjadril nespokojnosť s prístupom technologických spoločností k boju proti deepfake.
„Ak si nejaká platforma myslí, že sa z tohto môže vyvliecť bez toho, aby stiahla deepfake videá, alebo si k ním zachová neformálny prístup, máme právomoc chrániť našich občanov zablokovaním takýchto platforiem,“ povedal Chandrasekhar v tom čase na tlačovej konferencii.
Indickí predstavitelia uvažovali o legislatívnej úprave, ktorá by súvisela s deepfake, no zatiaľ nebolo prijaté absolútne nič. V súčasnosti existuje na celom svete len niekoľko zákonov, ktoré sa zaoberajú výrobou a distribúciou pornografie generovanej pomocou nástrojov AI.
Ide o niekoľko štátov USA, ku ktorým sa tento týždeň pridalo aj Spojené kráľovstvo. Briti kriminalizovali vytváranie sexuálne explicitných obrázkov vytvorených umelou inteligenciou. Kedy sa k ním pridajú ďalšie štáty je však otázne. Táto deepfake bomba však môže kedykoľvek vybuchnúť a v hre sú životy prakticky všetkých žien, ktoré majú fotografiu v online priestore.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Krutá pravda o Ficovi, Dankovi či Šimečkovi? Spýtali sme sa AI, čo si myslí o slovenských politikoch
Jedna z najlepších funkcií ChatGPT je konečne zadarmo. OpenAI pridáva aj bezpečnostné novinky
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
NAJČÍTANEJŠIE ZO STARTITUP
Vláda rozhodla: Poľsko aktivuje kľúčový článok NATO, uviedol premiér Tusk
Za 100 eur mesačne môžeš svojmu dieťaťu našetriť až pol milióna eur. Expert radí rodičom, ako správne sporiť (ROZHOVOR)
Jednoduchý test odhalí, ako dlho budeš žiť. Vedci zistili, že jeden pohyb predpovedá riziko chorôb a úmrtia
Vzácna kométa Lemmon čoskoro preletí nad Slovenskom: Tieto dátumy si poznač, vráti sa až o 1 300 rokov
Fico reaguje na narušenie poľského vzdušného priestoru: Nenechá sa „vyprovokovať politickými hrami“
- 24 hod
- 48 hod
- 7 dní
-
- Slováci ich autá milujú. Veľká automobilka ukázala svoje auto budúcnosti, ide úplne proti prúdu
- PET fľaše sa menia na prekvapivú zbraň. Vedci hovoria o riešení klimatickej krízy
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Miliónové rakety netreba. Spojenec Západu otestoval ultimátne riešenie proti dronom za pár centov
- Vedci našli artefakt starý 80 000 rokov. Odhalil, že o minulosti ľudstva sme sa totálne mýlili
-
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Veľmoc našla ložisko mimoriadne vzácnej suroviny. Má astronomickú hodnotu
- Nová rana pre vodičov. Ak nemáš splnenú túto podmienku, auto ti na STK neprejde
- PET fľaše sa menia na prekvapivú zbraň. Vedci hovoria o riešení klimatickej krízy
- Krutá daň 1000 jadrových bômb. USA naozaj stavali raketu s hmotnosťou 8 miliónov ton
-
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Veľmoc našla ložisko mimoriadne vzácnej suroviny. Má astronomickú hodnotu
- Na Slovensko prichádza najlepšie hodnotený seriál celého roka. Ponúkne ho jediná služba
- Európske automobilky sa otriasajú. Šéf Stellantisu poslal Bruselu tvrdý odkaz, čas sa kráti
- Nová rana pre vodičov. Ak nemáš splnenú túto podmienku, auto ti na STK neprejde
iPhony a Androidy si konečne rozumejú. Veľký operátor spustil Slovákom roky vytúženú funkciu
Slovenský export zbraní rastie nebývalým tempom. Rok 2025 môže priniesť 3 miliardy eur
Mapy Google sa v Kórei menia. Citlivé oblasti už nebudú viditeľné
Nový prieskum odhalil trend. Platby kartou a mobilom sa stali štandardom na Slovensku
Prekvapenie: Európske automobilky úspešne plnia prísne emisie EÚ, zaostáva len slávna značka
NAJČÍTANEJŠIE ZO STARTITUP