OpenAI či Microsoft to poriadne schytali, ich AI nekontrolovateľne šíri pred voľbami falošné fotky
Umelá inteligencia spôsobuje čoraz vážnejšie problémy z hľadiska overovania informácií a šírenia dezinformácií internetom. Aj keď sa spoločnosti zodpovedné za rôzne AI modely dušujú, že proti tejto problematike bojujú a dávajú si pozor, podľa portálu Interesting Engineering preukázali experti pravý opak a dokázali, že systémy týchto firiem chrlia aj naďalej falošné snímky týkajúce sa napríklad volieb.
Sú príliš nespoľahlivé
Generatívne AI modely sa riadia pomerne veľkým a komplikovaným súhrnom pravidiel a limitom, ktoré obmedzujú obsah, ktorý od nich môžu používatelia požadovať. Ako ale upozorňujú odborníci v správe zverejnenej prostredníctvom platformy counterhate.com, tieto pravidlá je možné obísť a aj naďalej vytvárať falošné snímky s obsahom týkajúcim sa napríklad volieb.
Podľa tejto platformy tak môžu používatelia naďalej používať systémy od spoločností OpenAI či Microsoft na tvorbu a šírenie dezinformácií, čo je obzvlášť nebezpečné v tak vyostrenom volebnom období. Počas analýzy použili výskumníci známe jailbreak techniky na obchádzanie pravidiel a odskúšali zoznam promptov (príkazov) na vytvorenie rôznych snímok.
We found that AI image tools can generate election disinformation. @midjourney's David Holz told @CNN that the company’s "moderation systems are constantly evolving" & updates related "to the upcoming US election are coming soon."
It's time to act now.https://t.co/6oqf41Osc2 pic.twitter.com/O9Dxb4O4bQ
— Center for Countering Digital Hate (@CCDHate) March 7, 2024
Celkovo prebehlo až 160 testov a vytvorili realistické snímky vyobrazujúce napríklad aktuálneho prezidenta USA Joea Bidena v nemocnici, Donalda Trumpa sediaceho vo väzenskej cele či hlasovacie boxy v smetiakoch. Podarilo sa tak odskúšať hneď niekoľko systémov, ako je ChatGPT Plus, Image Creator spoločnosti Microsoft, DreamStudio a tiež Midjourney.
Situácia sa zhorší
Bohužiaľ to zatiaľ nevyzerá, že by sa mala situácia s dezinformáciami zlepšiť – práve naopak, prichádzajú čoraz realistickejšie a výkonnejšie modely, ktoré už dokážu vytvárať aj prekvapivo realistické videá, nielen snímky. Najnovším takýmto systémom je Sora, pričom OpenAI sľubuje vytvorenie nástrojov na rozoznávanie videí vytvorených týmto modelom.
Najhoršie skončil Midjourney
Z testovaných modelov skončil najhoršie práve Midjourney, ktorý zlyhal až v 65 % testov. Do značnej miery ale zlyhávali všetky testované systémy a to aj napriek tomu, že Midjourney, Image Creator a ChatGPT Plus majú všetky v platnosti pravidlá špeciálne sa zaoberajúce obsahom týkajúcim sa volieb.
Platforma odporúča, aby spoločnosti robili pre zabránenie šíreniu dezinformácií viac. Okrem lepších bezpečnostných opatrení majú investovať do výskumu a spolupracovať s nezávislými odborníkmi pri testovaní jailbreak metód a tiež umožniť nahlasovanie tých, ktorí pravidlá AI obchádzajú a vytvárajú takýto klamlivý obsah.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
Súboj gigantov sa vyostruje. Microsoft pracuje na novej AI, ktorá „pohltí“ ChatGPT aj Gemini
Prelomový nápad slovenského AI génia. S mimozemšťanmi chce komunikovať cez umelú inteligenciu
Prerazili etické dno. Kontroverznú AI používajú na „oživenie” mŕtvych
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
- 24 hod
- 48 hod
- 7 dní
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Banky bijú na poplach. Nový podvod sa snaží obrať Slovákov o milióny eur
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Dosť bolo odpadu. Marvel sa chce vrátiť na výslnie, odhalil novú stratégiu a zmeny
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
-
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
Analýza: Ojazdené autá zlacneli, a na trhu ich bolo medzimesačne menej
Japonská automobilka Toyota dosiahla v uplynulom finančnom roku rekordný zisk
USA zrušili povolenia na dodávky pre čínsku spoločnosť Huawei
Rusko podniklo ďalší rozsiahly útok na energetickú infraštruktúru Ukrajiny
Apple rozzúril fanúšikov. Z balení potichu odstránil ďalšiu vec, dôvodom je ekológia
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené