AI modely obsahujú závažnú chybu, zistili experti. Klamú miliónom ľudí v dôležitej otázke
Chatboti s umelou inteligenciou sa stali bežnou súčasťou našich životov. Čoraz viac sa na nich spoliehame, hoci nie sú dokonalí a majú sklony k halucináciám. Nová štúdia však upozorňuje, že by sme im nemali úplne dôverovať – populárne jazykové modely totiž často výrazne skresľujú vedecké závery. Na tému upozornil portál Phys.org.
Nepresné výsledky chatbotov
Hoci sa mnohí tvorcovia AI modelov chvália, aké sú nové modely presné aj vo vede, ukazuje sa, že realita je iná. Vedci v štúdii analyzovali 4 900 automaticky vygenerovaných súhrnov, ktoré boli odvodené z abstraktov aj celých článkov publikovaných v prestížnych vedeckých a medicínskych časopisoch, ako sú Nature, Science a The Lancet. Zistili, že až v 73 % prípadov skresľovali vedecké závery. Poskytovali menej presné odpovede alebo dospeli k príliš zovšeobecneným záverom oproti pôvodným vedeckým textom.
Vedci testovali desať popredných jazykových modelov vrátane ChatGPT, DeepSeek, Claude či LLaMA. Výsledky ukázali, že šesť z nich systematicky poskytuje nepresné výsledky výskumov. Hoci je forma skreslenia nenápadná, v štúdiách to môže mať veľký dopad. Chatboti zmenili napríklad formuláciu „liečba bola v tejto štúdii účinná“ a zovšeobecnili tvrdenie na „liečba je účinná“, čo môže viesť k mylnému dojmu, že výsledky štúdie sú univerzálne platné.
Keď zadávame chatbotom požiadavku, napríklad aby sa vyhli nepresnostiam, očakávame, že ju aj splnia. Vedci zistili, že po zadaní mali dvakrát vyššiu pravdepodobnosť, že vygenerujú všeobecné závery než keď im bol zadaný len jednoduchý prompt.
„Tento efekt je znepokojujúci. Študenti, výskumníci či tvorcovia politík môžu predpokladať, že ak ChatGPT požiadajú o presnosť, dostanú spoľahlivejší súhrn. Naše zistenia dokazujú opak,“ povedal Uwe Peters, spoluautor štúdie.
Riešenie je jednoduché
Výskumníci sa pozreli aj na to, ako sú na tom ľudia v porovnaní s AI. Ukázalo sa, že zhrnutia tých istých článkov vytvorené ľuďmi boli päťkrát menej náchylné k zovšeobecňovaniu. Čo je však zaujímavé, novšie modely ako ChatGPT-4o a DeepSeek, ktoré by mali byť kvalitnejšie a menej chybné, si viedli horšie než staršie modely.
Vedci ponúkajú aj riešenie. Ukázalo sa, že medzi najspoľahlivejšie modely patrí podľa vedcov Claude, ktorý mal najnižší sklon k zovšeobecňovaniu. Dôležité je tiež písanie kvalitných promptov s požiadavkou, aby boli výsledky formulované v minulom čase a nepriamou rečou. Pokročilí používatelia môžu v API modelu znížiť hodnotu parametra „teplota“, aby sa znížila jeho kreativita a zvýšila presnosť odpovedí.
Rôzne výskumy upozorňujú na riziká používania AI. Modely umelej inteligencie majú sklon k halucinovaniu, dokonca sú schopné klamať, aby zvíťazili v hre.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Vedci vytvorili roj živých švábov, ktoré fungujú ako drony. Technológia môže zmeniť vojnu aj špionáž
Kvantový počítač dokázal nemožné. Nestačia naň ani najlepšie superpočítače
Znie to šialene, ale funguje to. Meta má náramok, ktorý nahrádza ovládanie počítača
Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
OpenAI už o pár dní odhalí niečo, čo môže zmeniť svet. GPT-5 vraj dosiahne porozumenie blízke ľudskému mysleniu
NAJČÍTANEJŠIE ZO STARTITUP
Plat až 3 500 eur a množstvo benefitov. Sociálna poisťovňa hľadá ľudí na viaceré pozície
Endokrinologička varuje: Sociálne siete nabádajú Slovákov, že za každou ich ťažkosťou je kortizol
Prelomový výskum: Vedci testujú univerzálnu zbraň proti rakovine, nádory mizli aj pri agresívnych typoch
Martin opustil úspešnú kariéru v IT a v osade na Gemeri mení životy: „Učili ma, že Rómom sa mám vyhýbať“
Turecko hlási historický teplotný rekord 50,5 °C. Je to hranica ľudského prežitia, varujú odborníci
- 24 hod
- 48 hod
- 7 dní
-
- Vesmír možno práve odhalil svoj najväčší trik. Astronómovia hovoria o objave, ktorý mení učebnice
- Najprekliatejší film histórie? Tragédia, pri ktorej zomreli dve deti a hercovi odťalo hlavu, šokuje dodnes
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
- Kvantový počítač dokázal nemožné. Nestačia naň ani najlepšie superpočítače
- OpenAI už o pár dní odhalí niečo, čo môže zmeniť svet. GPT-5 vraj dosiahne porozumenie blízke ľudskému mysleniu
-
- Najprekliatejší film histórie? Tragédia, pri ktorej zomreli dve deti a hercovi odťalo hlavu, šokuje dodnes
- Nemci môžu spasiť Európu. Prišli na geniálny spôsob, ako „vyťažiť“ nedostatkovú surovinu budúcnosti
- Slováci sa zamilovali. Tieto pneumatiky sú absolútnym hitom, vodiči rozmýšľajú logicky
- Vesmír možno práve odhalil svoj najväčší trik. Astronómovia hovoria o objave, ktorý mení učebnice
- Európa má konečne plán. Našla svoju tajnú zbraň, Nórsko a Grónsko nám pomôžu k sebestačnosti
-
- Slováci sa zamilovali. Tieto pneumatiky sú absolútnym hitom, vodiči rozmýšľajú logicky
- Prekvapivé zistenia vedcov: Obľúbený nápoj Slovákov obsahuje neviditeľnú hrozbu, o ktorej sme doteraz netušili
- Rusko vyľakalo celý Západ. Multifunkčnou superzbraňou chce dobyť prekvapivú časť sveta
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
Slovensko zažije krvavý Mesiac. Blíži sa veľké úplné zatmenie
Po 50 rokoch čakania to prišlo. Petržalka má konečne svoju električku
Európska raketa, ktorá bude strážiť Zem, vyletela do kozmu. Jej misia je kľúčová pre budúcnosť planéty
Slovensko čaká solárny megaprojekt. Chcú postaviť obrovské elektrárne, majú dodať energiu tisícom domácností
Predaj elektromobilov vo svete prudko stúpol. Čína vedie elektrické preteky, Európa naberá dych
NAJČÍTANEJŠIE ZO STARTITUP