OpenAI či Microsoft to poriadne schytali, ich AI nekontrolovateľne šíri pred voľbami falošné fotky
Umelá inteligencia spôsobuje čoraz vážnejšie problémy z hľadiska overovania informácií a šírenia dezinformácií internetom. Aj keď sa spoločnosti zodpovedné za rôzne AI modely dušujú, že proti tejto problematike bojujú a dávajú si pozor, podľa portálu Interesting Engineering preukázali experti pravý opak a dokázali, že systémy týchto firiem chrlia aj naďalej falošné snímky týkajúce sa napríklad volieb.
Sú príliš nespoľahlivé
Generatívne AI modely sa riadia pomerne veľkým a komplikovaným súhrnom pravidiel a limitom, ktoré obmedzujú obsah, ktorý od nich môžu používatelia požadovať. Ako ale upozorňujú odborníci v správe zverejnenej prostredníctvom platformy counterhate.com, tieto pravidlá je možné obísť a aj naďalej vytvárať falošné snímky s obsahom týkajúcim sa napríklad volieb.
Podľa tejto platformy tak môžu používatelia naďalej používať systémy od spoločností OpenAI či Microsoft na tvorbu a šírenie dezinformácií, čo je obzvlášť nebezpečné v tak vyostrenom volebnom období. Počas analýzy použili výskumníci známe jailbreak techniky na obchádzanie pravidiel a odskúšali zoznam promptov (príkazov) na vytvorenie rôznych snímok.
We found that AI image tools can generate election disinformation. @midjourney's David Holz told @CNN that the company’s "moderation systems are constantly evolving" & updates related "to the upcoming US election are coming soon."
It's time to act now.https://t.co/6oqf41Osc2 pic.twitter.com/O9Dxb4O4bQ
— Center for Countering Digital Hate (@CCDHate) March 7, 2024
Celkovo prebehlo až 160 testov a vytvorili realistické snímky vyobrazujúce napríklad aktuálneho prezidenta USA Joea Bidena v nemocnici, Donalda Trumpa sediaceho vo väzenskej cele či hlasovacie boxy v smetiakoch. Podarilo sa tak odskúšať hneď niekoľko systémov, ako je ChatGPT Plus, Image Creator spoločnosti Microsoft, DreamStudio a tiež Midjourney.
Situácia sa zhorší
Bohužiaľ to zatiaľ nevyzerá, že by sa mala situácia s dezinformáciami zlepšiť – práve naopak, prichádzajú čoraz realistickejšie a výkonnejšie modely, ktoré už dokážu vytvárať aj prekvapivo realistické videá, nielen snímky. Najnovším takýmto systémom je Sora, pričom OpenAI sľubuje vytvorenie nástrojov na rozoznávanie videí vytvorených týmto modelom.
Najhoršie skončil Midjourney
Z testovaných modelov skončil najhoršie práve Midjourney, ktorý zlyhal až v 65 % testov. Do značnej miery ale zlyhávali všetky testované systémy a to aj napriek tomu, že Midjourney, Image Creator a ChatGPT Plus majú všetky v platnosti pravidlá špeciálne sa zaoberajúce obsahom týkajúcim sa volieb.
Platforma odporúča, aby spoločnosti robili pre zabránenie šíreniu dezinformácií viac. Okrem lepších bezpečnostných opatrení majú investovať do výskumu a spolupracovať s nezávislými odborníkmi pri testovaní jailbreak metód a tiež umožniť nahlasovanie tých, ktorí pravidlá AI obchádzajú a vytvárajú takýto klamlivý obsah.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Mysleli si, že AI im ušetrí milióny a nepotrebujú zamestnancov. Prvé výsledky sú šokujúce
Šokujúci prieskum je varovaním pred novou revolúciou. Teenageri začali používať AI inak, ako sa čakalo
Stačí ti telefón a pár minút času. TOP 10 nástrojov, vďaka ktorým už ľudia reálne zarábajú cez AI
Kým ostatní spali, on porazil AI. Historický úspech vo svete programovania
Začína sa hon na AI. Európska únia pripravila nástroj, ktorý všetko mení
NAJČÍTANEJŠIE ZO STARTITUP
Chráni mozog, bojuje s Alzheimerom a stojí pár centov. Často prehliadaný zdroj živín vedci odporúčajú zaradiť na tanier
EÚ pripravuje zásadnú zmenu pre vodičov: Slováci sa budú musieť pripraviť na novú éru tankovania, nie každé auto to zvládne
KVÍZ: Len 10 % Slovákov prejde cez prvú otázku. Dokáž, že svoju krajinu poznáš dokonale
Do dôchodku môžeš odísť aj o 2 roky skôr. Potrebuješ splniť tieto podmienky (NÁVOD)
Zbrane, ktoré doletia až do Moskvy? Údajný Trumpov plán môže prepisovať vojnu
- 24 hod
- 48 hod
- 7 dní
-
- Šokujúci prieskum je varovaním pred novou revolúciou. Teenageri začali používať AI inak, ako sa čakalo
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
- Veľká automobilka zvoláva 200-tisíc áut do servisu. Ak máš tento model, kvôli kritickej chybe riskuješ život
- Netflix sa so Slovenskom škaredo popálil. TOP 9 seriálov, ktoré mali byť hity, no skončili katastrofou
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
-
- Mali byť hitom, no nikto ich nechcel. TOP 8 technologických prepadákov slávnych značiek
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
- Šokujúci prieskum je varovaním pred novou revolúciou. Teenageri začali používať AI inak, ako sa čakalo
- Veľký zvrat vo vojne: Ukrajina dostane zákernú zbraň, ktorá zničí Rusov v okruhu 2 000 m²
-
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
- Taiwan ukázal svetu, čo sa stane, ak zaútočí Čína. V kľúčovom teste všetkých zarazili
- Prehliadaná krajina prechádza desivou premenou za miliardy. Čína ju zbrojí na úroveň superveľmocí
- Českí filmári zobrali „dezolátov“ na Ukrajinu a ukázali im vojnu. Takto vyzerali ich reakcie (VIDEO)
- Veľký zvrat vo vojne: Ukrajina dostane zákernú zbraň, ktorá zničí Rusov v okruhu 2 000 m²
EÚ sa rúti do krízy: Táto európska dohoda zvyšuje ceny a posilňuje Rusko, tvrdí ekonóm
Veril si, že šanca na chlapca alebo dievča je 50/50? Odborníci prišli so zaujímavým zistením
Slováci nevedia správne používať klimatizáciu. Lekár varuje, čo ohrozuje najmä alergikov
Európska únia zverejnila znepokojivé dáta. Odhalila obrovského znečisťovateľa, o ktorom nikto netušil
Automobilový gigant Stellantis je v obrovských problémoch. Vykázal šokujúcu stratu za prvý polrok
NAJČÍTANEJŠIE ZO STARTITUP