OpenAI či Microsoft to poriadne schytali, ich AI nekontrolovateľne šíri pred voľbami falošné fotky
Umelá inteligencia spôsobuje čoraz vážnejšie problémy z hľadiska overovania informácií a šírenia dezinformácií internetom. Aj keď sa spoločnosti zodpovedné za rôzne AI modely dušujú, že proti tejto problematike bojujú a dávajú si pozor, podľa portálu Interesting Engineering preukázali experti pravý opak a dokázali, že systémy týchto firiem chrlia aj naďalej falošné snímky týkajúce sa napríklad volieb.
Sú príliš nespoľahlivé
Generatívne AI modely sa riadia pomerne veľkým a komplikovaným súhrnom pravidiel a limitom, ktoré obmedzujú obsah, ktorý od nich môžu používatelia požadovať. Ako ale upozorňujú odborníci v správe zverejnenej prostredníctvom platformy counterhate.com, tieto pravidlá je možné obísť a aj naďalej vytvárať falošné snímky s obsahom týkajúcim sa napríklad volieb.
Podľa tejto platformy tak môžu používatelia naďalej používať systémy od spoločností OpenAI či Microsoft na tvorbu a šírenie dezinformácií, čo je obzvlášť nebezpečné v tak vyostrenom volebnom období. Počas analýzy použili výskumníci známe jailbreak techniky na obchádzanie pravidiel a odskúšali zoznam promptov (príkazov) na vytvorenie rôznych snímok.
We found that AI image tools can generate election disinformation. @midjourney's David Holz told @CNN that the company’s "moderation systems are constantly evolving" & updates related "to the upcoming US election are coming soon."
It's time to act now.https://t.co/6oqf41Osc2 pic.twitter.com/O9Dxb4O4bQ
— Center for Countering Digital Hate (@CCDHate) March 7, 2024
Celkovo prebehlo až 160 testov a vytvorili realistické snímky vyobrazujúce napríklad aktuálneho prezidenta USA Joea Bidena v nemocnici, Donalda Trumpa sediaceho vo väzenskej cele či hlasovacie boxy v smetiakoch. Podarilo sa tak odskúšať hneď niekoľko systémov, ako je ChatGPT Plus, Image Creator spoločnosti Microsoft, DreamStudio a tiež Midjourney.
Situácia sa zhorší
Bohužiaľ to zatiaľ nevyzerá, že by sa mala situácia s dezinformáciami zlepšiť – práve naopak, prichádzajú čoraz realistickejšie a výkonnejšie modely, ktoré už dokážu vytvárať aj prekvapivo realistické videá, nielen snímky. Najnovším takýmto systémom je Sora, pričom OpenAI sľubuje vytvorenie nástrojov na rozoznávanie videí vytvorených týmto modelom.
Najhoršie skončil Midjourney
Z testovaných modelov skončil najhoršie práve Midjourney, ktorý zlyhal až v 65 % testov. Do značnej miery ale zlyhávali všetky testované systémy a to aj napriek tomu, že Midjourney, Image Creator a ChatGPT Plus majú všetky v platnosti pravidlá špeciálne sa zaoberajúce obsahom týkajúcim sa volieb.
Platforma odporúča, aby spoločnosti robili pre zabránenie šíreniu dezinformácií viac. Okrem lepších bezpečnostných opatrení majú investovať do výskumu a spolupracovať s nezávislými odborníkmi pri testovaní jailbreak metód a tiež umožniť nahlasovanie tých, ktorí pravidlá AI obchádzajú a vytvárajú takýto klamlivý obsah.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
AI dali „mozog“ a ostali zaskočení. Čína testuje humanoida, ktorý sa správa až nepríjemne ľudsky
Chcel poradiť, pokúsila sa ho zabiť. Umelá inteligencia šokovala svet návodom na „chemickú zbraň“
Energiu by dodala 8 miliónom domácnostiam. USA budujú energetickú gigapevnosť
Slováci robia zásadnú chybu s AI. Expert nám ukázal, ako vytvoríš najlepšie prompty a vyťažíš z nej maximum
Meta predstavila nové smart okuliare. Prináša 3K kameru a slušnú výdrž na jedno nabitie
NAJČÍTANEJŠIE ZO STARTITUP
Chorvátsko hlási cenový šok. Najviac zdraželo obľúbené prímorské mestečko Slovákov
Otvorili pravú taliansku pekáreň: „Denne sme 15 hodín v práci, máme nulový work-life balance“
Stovky ľudí môžu prísť o pomoc: Kľúčové centrum zastavuje liečbu pre pacientov VšZP
Hit medzi proteínovými doplnkami ničí črevnú mikroflóru. Odborník ho spája s rakovinou hrubého čreva
Už 300 rokov vzdorujú modernému svetu: Amiši žijú bez smartfónu či elektriny, mladých nepresvedčí ani „Rumspringa“
- 24 hod
- 48 hod
- 7 dní
-
- Stáročia stará záhada má jasnú odpoveď. Vo vnútri Mesiaca našli veľké prekvapenie
- Ľudstvo zabije nová doba ľadová. Tvorcovia Marťana ukázali svoj nový film
- Z Londýna do New Yorku za 2 hodiny. Ikonické nadzvukové lietadlo hlási návrat, vzlietne už čoskoro
- BMW ide po Tesle. Nemci ukázali špičkové EV s dojazdom 900 km, ktoré pochová Model 3
- Nový čínsky motor prežil test, ktorý láme fyzikálne zákony. Využíva pohon ako z iného sveta
-
- Stáročia stará záhada má jasnú odpoveď. Vo vnútri Mesiaca našli veľké prekvapenie
- Nový čínsky motor prežil test, ktorý láme fyzikálne zákony. Využíva pohon ako z iného sveta
- O toto išlo Rusom celý čas. Obsadili jedno z najväčších ložísk dôležitej suroviny v Európe
- Ani fúzia sa jej nevyrovná. Vedci našli alternatívu, ktorá nám dá neobmedzenú energiu
- Fyzici vyriešili 80-ročnú záhadu, ktorú všetci ignorovali. Teraz môže navždy zmeniť tvoj život
-
- O toto išlo Rusom celý čas. Obsadili jedno z najväčších ložísk dôležitej suroviny v Európe
- Ak zaútočia, pocítia fatálny úder. USA poslali do Európy tisíce vojakov a najsmrtiacejšiu flotilu sveta
- Majú voňať, namiesto toho nám ničia pľúca. Vedci varujú pred tichým zabijakom ovzdušia v dome
- Horúčavy už nebudú problém. Objavili prelomový spôsob, ako za pár centov vychladíš celú domácnosť
- Vedci zachytili silný rádiový signál z vesmíru. Odpoveď šokovala každého
Uniknuté dokumenty odhalili problémy Nissanu. Reštrukturalizácia už začala
46 stupňov v tieni a výstrahy naprieč kontinentom. Európa zažíva extrémne leto
EÚ odobrila dotácie na elektrinu pre firmy. Podmienkou sú investície do úspor
Svet sa rozpadá na kusy. Guterres vyzýva na urgentné financovanie rozvoja
Vývoz dielov F-35 pre Izrael prešiel súdnou skúškou. Britský súd potvrdil kontroverzné licencie
NAJČÍTANEJŠIE ZO STARTITUP