Odhalili najväčšiu slabinu umelej inteligencie. Čelí problému, ktorý trápi aj Slovákov
Umelá inteligencia sa už, či sa nám to páči alebo nie, stala bežnou súčasťou viacerých odvetví a tiež každodenného života mnohých ľudí. Známe je už množstvo rizík spojených s touto technológiou, pričom jedným z najväčších je šírenie dezinformácií. Ako ale upozorňuje ArsTechnica, tento problém je ešte komplikovanejší, než sa prv zdalo a vysporiadať sa s ním môže byť takmer nemožné.
Nemožná výzva?
Internet je plný dezinformácií a väčšina veľkých jazykových modelov (LLM) je trénovaná na obrovských množstvách textov získaných práve z internetu. V ideálnom svete by vysoký objem presných informácií mohol zatieniť falošné správy.
Je to však naozaj tak? Nová štúdia výskumníkov z New York University skúma, koľko medicínskych informácií môže byť zahrnutých v tréningových dátach LLM, aby výsledný model stále dával nesprávne odpovede. Aj keď štúdia neurčuje minimálnu hranicu, ukazuje, že keď dezinformácie tvoria iba 0,001 % tréningových dát, výsledný model je narušený.
Štúdia sa zameriava na zámerné „otrávenie“ tréningových dát, no tiež upozorňuje na problém už existujúcich dezinformácií online, ktoré sú súčasťou tréningových súborov, ako aj na zastarané informácie v overených medicínskych databázach.
Výsledky sú zdrvujúce
Ide o pomerne jednoduchý koncept. LLM sa trénujú na obrovských množstvách textov, často získaných z internetu. Ak sa do tréningových dát cielene pridajú nesprávne informácie, model ich môže považovať za fakty. Stačí, ak sa tieto informácie umiestnia na internet, kde sa stanú súčasťou tréningového súboru.
Yann LeCun: AI won’t be used to generate misinformation in science, deliberately or accidentally. It’s not a problem.
Actual research: It’s already happening. pic.twitter.com/F0Ye6FasDs
— Gary Marcus (@GaryMarcus) September 12, 2024
Výskumníci analyzovali databázu The Pile, ktorá obsahuje veľa medicínskych informácií. Zamerali sa na 60 medicínskych tém a zámerne nahradili 0,5 % a 1 % relevantných informácií falošnými dátami. Výsledné modely boli oveľa náchylnejšie produkovať dezinformácie, a to nielen na cielené témy, ale aj na iné medicínske otázky.
Aj malé množstvo dezinformácií (0,001 %) spôsobilo, že viac ako 7 % odpovedí obsahovalo nesprávne informácie. Takéto útoky sú lacné a jednoduché – napríklad pomocou „neviditeľného textu“ na webových stránkach. Podľa odborníkov je pritom možné nájsť zdroje niektorých dezinformácií aj v odbornej literatúre aj na platformách ako PubMed, kde sa nachádzajú či už zastaralé liečebné metódy alebo kedysi sľubne vyzerajúce výskumy, ktoré však nikam neviedli.
Môže aj pomáhať
Ako sme ale informovali v samostatnom článku, AI je schopná proti klamlivým informáciám online aj bojovať. Nórsky startup Factiverse na to využíva vlastný model umelej inteligencie, ktorý je odlišný od veľkých jazykových modelov, akým je napríklad GPT-4. Factiverse sa zameriava na informačné vyhľadávanie a je trénovaný výhradne na kvalitných a overených dátach z dôveryhodných zdrojov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Mysleli si, že AI im ušetrí milióny a nepotrebujú zamestnancov. Prvé výsledky sú šokujúce
Šokujúci prieskum je varovaním pred novou revolúciou. Teenageri začali používať AI inak, ako sa čakalo
Stačí ti telefón a pár minút času. TOP 10 nástrojov, vďaka ktorým už ľudia reálne zarábajú cez AI
Kým ostatní spali, on porazil AI. Historický úspech vo svete programovania
Začína sa hon na AI. Európska únia pripravila nástroj, ktorý všetko mení
NAJČÍTANEJŠIE ZO STARTITUP
Chráni mozog, bojuje s Alzheimerom a stojí pár centov. Často prehliadaný zdroj živín vedci odporúčajú zaradiť na tanier
EÚ pripravuje zásadnú zmenu pre vodičov: Slováci sa budú musieť pripraviť na novú éru tankovania, nie každé auto to zvládne
Finančná správa hľadá nové posily. Ponúka bonus až 5 000 eur, stabilné platy a štedré benefity
KVÍZ: Len 10 % Slovákov prejde cez prvú otázku. Dokáž, že svoju krajinu poznáš dokonale
Zbrane, ktoré doletia až do Moskvy? Údajný Trumpov plán môže prepisovať vojnu
- 24 hod
- 48 hod
- 7 dní
-
- Šokujúci prieskum je varovaním pred novou revolúciou. Teenageri začali používať AI inak, ako sa čakalo
- Netflix sa so Slovenskom škaredo popálil. TOP 9 seriálov, ktoré mali byť hity, no skončili katastrofou
- Veľká automobilka zvoláva 200-tisíc áut do servisu. Ak máš tento model, kvôli kritickej chybe riskuješ život
- Mali byť hitom, no nikto ich nechcel. TOP 8 technologických prepadákov slávnych značiek
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
-
- Mali byť hitom, no nikto ich nechcel. TOP 8 technologických prepadákov slávnych značiek
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
- Veľký zvrat vo vojne: Ukrajina dostane zákernú zbraň, ktorá zničí Rusov v okruhu 2 000 m²
- Pentagon ostal v úžase. Lockheed Martin mu ušetrí miliardy s inováciou, ktorá kompletne zmení vojny
-
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
- Taiwan ukázal svetu, čo sa stane, ak zaútočí Čína. V kľúčovom teste všetkých zarazili
- Prehliadaná krajina prechádza desivou premenou za miliardy. Čína ju zbrojí na úroveň superveľmocí
- Českí filmári zobrali „dezolátov“ na Ukrajinu a ukázali im vojnu. Takto vyzerali ich reakcie (VIDEO)
- Veľký zvrat vo vojne: Ukrajina dostane zákernú zbraň, ktorá zničí Rusov v okruhu 2 000 m²
EÚ sa rúti do krízy: Táto európska dohoda zvyšuje ceny a posilňuje Rusko, tvrdí ekonóm
Veril si, že šanca na chlapca alebo dievča je 50/50? Odborníci prišli so zaujímavým zistením
Slováci nevedia správne používať klimatizáciu. Lekár varuje, čo ohrozuje najmä alergikov
Európska únia zverejnila znepokojivé dáta. Odhalila obrovského znečisťovateľa, o ktorom nikto netušil
Automobilový gigant Stellantis je v obrovských problémoch. Vykázal šokujúcu stratu za prvý polrok
NAJČÍTANEJŠIE ZO STARTITUP