Odhalili najväčšiu slabinu umelej inteligencie. Čelí problému, ktorý trápi aj Slovákov

Umelá inteligencia sa už, či sa nám to páči alebo nie, stala bežnou súčasťou viacerých odvetví a tiež každodenného života mnohých ľudí. Známe je už množstvo rizík spojených s touto technológiou, pričom jedným z najväčších je šírenie dezinformácií. Ako ale upozorňuje ArsTechnica, tento problém je ešte komplikovanejší, než sa prv zdalo a vysporiadať sa s ním môže byť takmer nemožné.

Nemožná výzva?

Internet je plný dezinformácií a väčšina veľkých jazykových modelov (LLM) je trénovaná na obrovských množstvách textov získaných práve z internetu. V ideálnom svete by vysoký objem presných informácií mohol zatieniť falošné správy.

Je to však naozaj tak? Nová štúdia výskumníkov z New York University skúma, koľko medicínskych informácií môže byť zahrnutých v tréningových dátach LLM, aby výsledný model stále dával nesprávne odpovede. Aj keď štúdia neurčuje minimálnu hranicu, ukazuje, že keď dezinformácie tvoria iba 0,001 % tréningových dát, výsledný model je narušený.

Štúdia sa zameriava na zámerné „otrávenie“ tréningových dát, no tiež upozorňuje na problém už existujúcich dezinformácií online, ktoré sú súčasťou tréningových súborov, ako aj na zastarané informácie v overených medicínskych databázach.

Výsledky sú zdrvujúce

Ide o pomerne jednoduchý koncept. LLM sa trénujú na obrovských množstvách textov, často získaných z internetu. Ak sa do tréningových dát cielene pridajú nesprávne informácie, model ich môže považovať za fakty. Stačí, ak sa tieto informácie umiestnia na internet, kde sa stanú súčasťou tréningového súboru.

Yann LeCun: AI won’t be used to generate misinformation in science, deliberately or accidentally. It’s not a problem.

Actual research: It’s already happening. pic.twitter.com/F0Ye6FasDs

— Gary Marcus (@GaryMarcus) September 12, 2024

Výskumníci analyzovali databázu The Pile, ktorá obsahuje veľa medicínskych informácií. Zamerali sa na 60 medicínskych tém a zámerne nahradili 0,5 % a 1 % relevantných informácií falošnými dátami. Výsledné modely boli oveľa náchylnejšie produkovať dezinformácie, a to nielen na cielené témy, ale aj na iné medicínske otázky.

Aj malé množstvo dezinformácií (0,001 %) spôsobilo, že viac ako 7 % odpovedí obsahovalo nesprávne informácie. Takéto útoky sú lacné a jednoduché – napríklad pomocou „neviditeľného textu“ na webových stránkach. Podľa odborníkov je pritom možné nájsť zdroje niektorých dezinformácií aj v odbornej literatúre aj na platformách ako PubMed, kde sa nachádzajú či už zastaralé liečebné metódy alebo kedysi sľubne vyzerajúce výskumy, ktoré však nikam neviedli.

Čítajte viac z kategórie: Novinky