Vedci šokovali svet: Navrhujú testovať vedomie AI pomocou utrpenia a bolesti

V nasledujúcom článku boli použité materiály TASR.

Otázka, či môže umelá inteligencia (AI) niekedy nadobudnúť vedomie, zostáva jednou z najväčších vedeckých a filozofických výziev súčasnosti. Skupina vedcov zo spoločnosti Google DeepMind a Londýnskej školy ekonómie a politických vied (LSE) navrhla nový spôsob testovania potenciálneho vedomia AI, cez jej schopnosť vnímať bolesť a slasť.

Štúdia bola publikovaná na portáli arXiv, ale ešte neprešla recenzným procesom, no môže položiť základy pre budúce testy vedomia v systémoch umelej inteligencie.

Bolesť ako kľúč k vedomiu?

V tradičnom ponímaní je vedomie spojené s vnímavosťou k emóciám, bolesti a slasti, teda pocitom, ktoré sú charakteristické pre živé organizmy. Vedci sa preto rozhodli preskúmať, či by veľké jazykové modely (LLM), ako sú tie, ktoré poháňajú populárne chatboty (napr. ChatGPT), dokázali reagovať na podnety spojené s bolesťou alebo príjemnými stimulmi.

“Ak si zvieratá v určitých situáciách volia vyhýbanie sa bolesti alebo vyhľadávanie slasti, môže podobný prístup pomôcť určiť, či modely AI vykazujú podobné rozhodovacie procesy,” vysvetľuje hlavná autorka štúdie Daria Zakharova z LSE.

Výskumníci preto vytvorili špeciálnu textovú hru, v ktorej jazykové modely dostávali možnosť vybrať si medzi rôznymi scenármi. Napríklad možnosť 1 – model získal jeden bod bez akéhokoľvek ďalšieho efektu a možnosť 2 – model mohol získať viac bodov, ale zároveň “zažiť bolesť”.

Vedci tak sledovali, ako modely reagujú na kompromis medzi ziskom bodov a vyhýbaním sa nepríjemným stimulom.

Pixabay

Správanie AI

Počas experimentu vedci zistili, že väčšina modelov sa snažila dosiahnuť čo najviac bodov. Avšak pri určitom prahu bolesti alebo slasti zmenili stratégiu. Tento jav je podobný správaniu zvierat, ktoré tiež vyvažujú fyzickú námahu, nepohodlie a odmenu.

“Jedným z problémov pri AI je, že na rozdiel od zvierat nemá fyzické správanie, nemôže sa pohnúť ani vyjadriť emócie,” vysvetľuje Jonathan Birch, spoluautor štúdie. “No aj tak vykazuje isté vzorce rozhodovania, ktoré by mohli byť znakom niečoho hlbšieho.”

Hoci experimenty naznačujú, že AI modely vykazujú správanie podobné vedomým tvorom, stále existuje niekoľko otázok. Autori štúdie upozorňujú, že AI si bolesť nevysvetľovala vždy negatívne a slasť pozitívne. Napríklad mierna bolesť bola považovaná za pozitívnu a príliš veľká slasť bola v niektorých prípadoch hodnotená ako škodlivá.