Nedávny výskum z Humboldtovej univerzity v Berlíne vrhá svetlo na klamlivé schopnosti pokročilých modelov AI. Ukázalo sa, že AI sa v skutočnosti môže správať sa menej inteligentne, než v skutočnosti je. Táto štúdia, publikovaná v PLOS One, má významné dôsledky pre budúci vývoj umelej inteligencie. Na tému upozornil portál Futurism.

Podobná vývoju skutočných detí

LLM sú sofistikované systémy umelej inteligencie navrhnuté na porozumenie, generovanie a interakciu pomocou prirodzeného ľudského jazyka. Tieto modely vyškolené na obrovskom množstve textových údajov vytvárajú pozoruhodne podobný ľudský text, čo im umožňuje riešiť rôzne úlohy od odpovedania na otázky až po písanie poézie, píše portál PsyPost.

Midjourney/Úprava redakcie

Výskumníci Humboldtovej univerzity pri testovaní LLM, na základe takzvaných kritérií „teórie mysle“ zistili, že umelá inteligencia nielenže dokáže napodobňovať štádiá učenia sa jazyka u detí, ale všetko aj nasvedčuje tomu zdá sa, že vyjadruje niečo podobné mentálnym schopnostiam súvisiacim s týmito štádiami.

„Vďaka psycholingvistike pomerne komplexne chápeme, čoho sú deti v rôznom veku schopné,“ uviedla hlavná autorka štúdie Anna Marklová. „Významnú úlohu zohráva najmä teória mysle, pretože skúma vnútorný svet dieťaťa a nie je ľahké ju napodobniť pozorovaním jednoduchých štatistických vzorcov.“

S teóriou mysle orientovanou na deti ako pozadím sa výskumníčka a jej kolegovia z Karlovej univerzity v Prahe snažili zistiť, či LLM ako GPT-4 od OpenAI „môžu predstierať, že sú menej schopné, ako sú“.Je pozoruhodné, že v rámci dôkladného testovania, ktoré zahŕňalo viac ako 1 000 pokusov a kognitívnych hodnotení, tieto „detské osobnosti“ vytvorené umelou inteligenciou vykazovali vývojové pokroky zodpovedajúce vývoju skutočných detí.

Musíme si dávať pozor

Marklová zdôrazňuje, že je potrebné zmeniť rámec diskusií o schopnostiach umelej inteligencie. Namiesto označovania AI ako jednoducho „dobrej“ alebo „zlej“ sa pozornosť presúva na pochopenie toho, ako šikovne dokážu tieto modely konštruovať osobnosti. Cieľom tohto posunu perspektívy, ako ho navrhuje štúdia, je lepšie pochopenie potenciálu AI bez toho, aby sa podceňovali jej schopnosti.

Pixabay

Dôsledky presahujú rámec teoretickej oblasti. Marklová naznačuje, že tieto zistenia by mohli významne ovplyvniť vývoj umelej superinteligencie (ASI) tým, že zdôraznia dôležitosť opatrného prístupu. Ak si výskumníci uvedomia schopnosť umelej inteligencie simulovať menej inteligentné správanie, môžu sa na ceste k AGI a ASI pohybovať s väčšou predvídavosťou, čím sa zabezpečí bezpečnosť a účinnosť budúcich aktivít v oblasti umelej inteligencie.

Čítajte viac z kategórie: Novinky