Veľké jazykové modely ako ChatGPT alebo LLaMA sú známe tým, že generujú plynulé a miestami až ľudsky znejúce odpovede. No zároveň majú dobre zdokumentovaný problém: dokážu s presvedčivou istotou poskytovať nesprávne alebo zmätočné informácie. Nová štúdia z Tokijskej univerzity však naznačuje, že spôsob, akým AI spracúva informácie, môže mať prekvapivé paralely s tým, ako funguje mozog pri určitých poruchách reči.

Vedci sa vo výskume zamerali na Wernickeho afáziu, poruchu reči, pri ktorej ľudia hovoria plynulo, ale obsah ich prejavu často nedáva zmysel. Osoby s touto poruchou tvoria vety, ktoré znejú gramaticky správne, ale významovo sú chaotické alebo nesúvislé. Na tému upozornil portál BGR.

Nečakané spojenie

Tím z Tokijskej univerzity porovnal vnútorné signálové dráhy v mozgu pacientov s afáziou a dátové toky vo vnútri jazykových modelov. Na analýzu použili metódu z fyziky zvanú analýza energetickej krajiny (energy landscape analysis), ktorá vizualizuje, ako sa informácie presúvajú a stabilizujú v systémoch. Prekvapivo zistili, že v oboch prípadoch dochádza k rigidným a opakujúcim sa vzorcom, ktoré bránia efektívnemu spracovaniu informácií.

Štúdia naznačuje, že AI modely často padajú do tzv. vnútorných slučiek, ktoré síce produkujú zmysluplne znejúci jazyk, ale bez hlbšieho prístupu k relevantným poznatkom. To vysvetľuje, prečo model dokáže odpovedať plynule, no jeho odpoveď môže byť fakticky nesprávna alebo nelogická. Nejde teda o chybu v programovaní, ale o vnútornú organizáciu informácií, ktorá sa podobá na správanie mozgu pri receptívnej afázii.

Pexels

Dopady na vývoj AI aj liečbu mozgových porúch

Tieto zistenia majú význam nielen pre vývoj inteligentnejších a spoľahlivejších AI systémov, ale aj pre neurológiu a diagnostiku porúch reči. Výskum ukazuje, že nie je dôležité len to, ako ľudia hovoria navonok, ale aj ako ich mozgy pracujú s informáciami vo vnútri. To by mohlo viesť k novým spôsobom klasifikácie a liečby afázií. Zaujímavosťou je, že AI už pomáha aj pri detekcii iných porúch, napríklad autizmu, kde výskumníci sledujú, ako človek uchopuje predmety.

Pre vývojárov AI môže byť tento výskum kľúčovým návodom, ako vytvoriť systémy, ktoré lepšie pristupujú k uloženým informáciám a efektívnejšie ich organizujú. Vďaka pochopeniu toho, kde a prečo sa vo výpočtových modeloch objavujú slepé miesta, by mohli vzniknúť inteligentnejšie a dôveryhodnejšie nástroje. Súčasne by to mohlo otvoriť nové cesty, ako lepšie porozumieť fungovaniu ľudského mozgu a efektívnejšie reagovať na jeho zlyhania.