Facebook a Instagram sa zmenia. Jeden druh príspevkov dostane úplný zákaz
Deepfake sa pomaly stáva rakovinou online priestoru. Naša spoločnosť akosi nestíha tomuto trendu a ten začína byť poriadne nebezpečný a nepríjemný, obzvlášť pre ženy.
Najnovšie prípady vygenerovania pornografickej AI fotografie vyvolali poriadny rozruch. Prsty v tom má, ako inak, Meta, ktorá reagovala na dva takmer identické situácie nekonzistentne. O probléme informoval portál TechCrunch.
Perverzný nástroj „oblbol“ Metu
Nástroje umelej inteligencie vedia človeku pomôcť, ale aj ublížiť mu. Azda najneetickejším prostriedkom AI sa stal nástroj na vytváranie pornografických obrázkov.
Čo je horšie, umelá inteligencia sa čoraz viac zdokonaľuje a vygenerované obrázky začínajú splývať s realitou a často je ťažké ich odhaliť. Čo je však úplne najhoršie, je to, ak niektorý používateľ uverejní takúto fotku v online priestore.
Konkrétne máme na mysli sociálne siete. Pred pár dňami sa odohrali dve veľmi podobné situácie – jedna v Indii, druhá v USA. Prvý prípad sa stal v Indii, kde tamojší instagramový účet zverejnil pornografický AI obrázok verejne známej osobnosti, ktorý zavesil na svoj profil.
Tento účet pravidelne uverejňuje fotografie indických žien vytvorené pomocou umelej inteligencie a väčšina používateľov, ktorí na tento obsah reaguje, pochádza z Indie. Istý používateľ nahlásil túto chúlostivú fotku prostredníctvom nástroja v Instagrame.
Pasivita giganta
Čuduj sa svete, Meta na tento prvý report nereagovala a vlákno pre nahlásenie sa automaticky po 48 hodinách uzavrelo s tým, že spoločnosť tento podnet nebude prehodnocovať.
Keď sa pôvodný sťažovateľ proti tomuto rozhodnutiu odvolal, vlákno sa opäť uzavrelo bez akéhokoľvek spätného preverenia zo strany Mety. Pornografický AI obrázok tak na Instagrame ostal publikovaný aj po dvoch nahláseniach.
Používateľ sa napokon odvolal na predstavenstvo americkej spoločnosti. Až v tomto momente sa gigant „zobudil“ a nežiadúci obsah z Instagramu odstránil z dôvodu porušenia jeho komunitných noriem týkajúcich sa šikanovania a obťažovania.
Rôzny prístup k trhom?
Druhý problémový prípad sa týka Facebooku, kde používateľ zverejnil pornografický obrázok vygenerovaný umelou inteligenciou pripomínajúci americkú verejne známu osobu. Meta v tomto prípade bola neporovnateľne rýchlejšia a obrázok zmizol z priestoru prakticky okamžite.
„Vieme, že Meta je rýchlejšia a efektívnejšia pri moderovaní obsahu na niektorých trhoch a v niektorých jazykoch ako na iných. Keď vezmeme jeden prípad z USA a jeden z Indie, chceme sa pozrieť na to, či Meta chráni všetky ženy na celom svete spravodlivým spôsobom,“ uviedla vo vyhlásení spolupredsedníčka dozornej rady Helle Thorning-Schmidtová.
Nuž, zdá sa, že nechráni. Ako je možné, že na niektorom trhu Meta odstráni problematický obrázok prakticky okamžite a bez nahlásenia a na inom sa dotknutá osoba nemusí dočkať ani po nahlásení a odvolaní? Povieš si, že je to prípad Indie. No kde je garancia toho, že sa rovnaký problém nemôže vyskytnúť hocijakej žene na Slovensku – či už na Facebooku alebo na Instagrame?
(Ne)dokonalá AI
Meta uviedla, že na detekciu obsahu so sexuálnym podtextom používa kombináciu umelej inteligencie a ľudskej kontroly. Zjavne však ich vlastná umelá inteligencia zlyháva na plnej čiare a nedokáže identifikovať stále prezieravejšie formy „súperiacej“ AI.
V dobe, kedy nástroje umožňujú používateľom rýchlo a jednoducho vytvárať a distribuovať rôzne typy obsahu, ide o neprijateľnú situáciu. Zamyslieť by sa však nemali len prevádzkovatelia sociálnych sietí, ale aj spoločnosti, ktoré majú v portfóliu „pornografický“ druh AI.
Modely umelej inteligencie by mali mať striktné obmedzenia, ktoré zabránia používateľom vo vytváraní explicitného obsahu reálnej osoby. „Musíme najprv zabrániť vytváraniu takéhoto obsahu trénovaním modelov AI, aby sme obmedzili výstup v prípade, že je jasný zámer niekomu ublížiť. Mali by sme tiež zaviesť predvolené označovanie pre ľahkú detekciu,“ vyjadrila sa indická expertka Aparajita Bharti pre TechCrunch prostredníctvom e-mailu.
Zákony sa implementujú pomaly
V Indii sa deepfake obsah stal obrovským problémom. Vlaňajšia správa od BBC poznamenáva, že počet falošných videí indických herečiek prudko vzrástol v nedávnom období. To neuniklo pozornosti ani osôb vo vláde. Začiatkom tohto roka námestník ministra pre IT, Rajeev Chandrasekhar, vyjadril nespokojnosť s prístupom technologických spoločností k boju proti deepfake.
„Ak si nejaká platforma myslí, že sa z tohto môže vyvliecť bez toho, aby stiahla deepfake videá, alebo si k ním zachová neformálny prístup, máme právomoc chrániť našich občanov zablokovaním takýchto platforiem,“ povedal Chandrasekhar v tom čase na tlačovej konferencii.
Indickí predstavitelia uvažovali o legislatívnej úprave, ktorá by súvisela s deepfake, no zatiaľ nebolo prijaté absolútne nič. V súčasnosti existuje na celom svete len niekoľko zákonov, ktoré sa zaoberajú výrobou a distribúciou pornografie generovanej pomocou nástrojov AI.
Ide o niekoľko štátov USA, ku ktorým sa tento týždeň pridalo aj Spojené kráľovstvo. Briti kriminalizovali vytváranie sexuálne explicitných obrázkov vytvorených umelou inteligenciou. Kedy sa k ním pridajú ďalšie štáty je však otázne. Táto deepfake bomba však môže kedykoľvek vybuchnúť a v hre sú životy prakticky všetkých žien, ktoré majú fotografiu v online priestore.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Stále používaš Google? Tvorcovia ChatGPT vytvorili náhradu, ktorá ti zmení život
Konkurencia zostala v úžase. Spustili nový ChatGPT, je extrémne inteligentný a zadarmo
Učitelia sú proti tejto AI bezmocní. Našli sme tajnú zbraň slovenských študentov
Zabudni na ChatGPT: Týchto 20 AI nástrojov je omnoho lepších. Urobia za teba úplne všetko
Boja sa ju vypustiť medzi ľudí. Vedci vytvorili umelú inteligenciu, ktorá naháňa zimomriavky
- 24 hod
- 48 hod
- 7 dní
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Fantastická ponuka pre Slovákov. Za 2 € môžeš získať stovky filmov a seriálov
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Fantastická ponuka pre Slovákov. Za 2 € môžeš získať stovky filmov a seriálov
-
- EÚ pobúrila Slovákov: Za tankovanie a kúrenie si priplatíme stovky eur. Toto je dôvod
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
- F-16 sú proti ním hračky. Európa dostane stíhačky s lasermi, ktoré nič nezastaví
- Vedci ostali v nemom úžase. Merkúr v sebe ukrýva poklad za bilióny eur
Veľký operátor prekvapil Slovákov: Rozdáva najlepšie filmy a seriály úplne zadarmo (+návod)
Mercedes-Benz zaznamenal nižší zisk kvôli nízkemu dopytu v Číne
Ľudstvo postihla ďalšia epidémia. Tajomník OSN varoval svet pred „šialeným“ aktom
Ďalší bizarný krok Ruska. V krajine úmyselne spomalia YouTube, takýto je dôvod
Fantastická správa pre vodičov. Ceny pohonných hmôt dosiahli minimum, jeden fakt nepoteší
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené