Vedci šokovali svet: Navrhujú testovať vedomie AI pomocou utrpenia a bolesti
V nasledujúcom článku boli použité materiály TASR.
Otázka, či môže umelá inteligencia (AI) niekedy nadobudnúť vedomie, zostáva jednou z najväčších vedeckých a filozofických výziev súčasnosti. Skupina vedcov zo spoločnosti Google DeepMind a Londýnskej školy ekonómie a politických vied (LSE) navrhla nový spôsob testovania potenciálneho vedomia AI, cez jej schopnosť vnímať bolesť a slasť.
Štúdia bola publikovaná na portáli arXiv, ale ešte neprešla recenzným procesom, no môže položiť základy pre budúce testy vedomia v systémoch umelej inteligencie.
Bolesť ako kľúč k vedomiu?
V tradičnom ponímaní je vedomie spojené s vnímavosťou k emóciám, bolesti a slasti, teda pocitom, ktoré sú charakteristické pre živé organizmy. Vedci sa preto rozhodli preskúmať, či by veľké jazykové modely (LLM), ako sú tie, ktoré poháňajú populárne chatboty (napr. ChatGPT), dokázali reagovať na podnety spojené s bolesťou alebo príjemnými stimulmi.
“Ak si zvieratá v určitých situáciách volia vyhýbanie sa bolesti alebo vyhľadávanie slasti, môže podobný prístup pomôcť určiť, či modely AI vykazujú podobné rozhodovacie procesy,” vysvetľuje hlavná autorka štúdie Daria Zakharova z LSE.
Výskumníci preto vytvorili špeciálnu textovú hru, v ktorej jazykové modely dostávali možnosť vybrať si medzi rôznymi scenármi. Napríklad možnosť 1 – model získal jeden bod bez akéhokoľvek ďalšieho efektu a možnosť 2 – model mohol získať viac bodov, ale zároveň “zažiť bolesť”.
Vedci tak sledovali, ako modely reagujú na kompromis medzi ziskom bodov a vyhýbaním sa nepríjemným stimulom.
Správanie AI
Počas experimentu vedci zistili, že väčšina modelov sa snažila dosiahnuť čo najviac bodov. Avšak pri určitom prahu bolesti alebo slasti zmenili stratégiu. Tento jav je podobný správaniu zvierat, ktoré tiež vyvažujú fyzickú námahu, nepohodlie a odmenu.
“Jedným z problémov pri AI je, že na rozdiel od zvierat nemá fyzické správanie, nemôže sa pohnúť ani vyjadriť emócie,” vysvetľuje Jonathan Birch, spoluautor štúdie. “No aj tak vykazuje isté vzorce rozhodovania, ktoré by mohli byť znakom niečoho hlbšieho.”
Hoci experimenty naznačujú, že AI modely vykazujú správanie podobné vedomým tvorom, stále existuje niekoľko otázok. Autori štúdie upozorňujú, že AI si bolesť nevysvetľovala vždy negatívne a slasť pozitívne. Napríklad mierna bolesť bola považovaná za pozitívnu a príliš veľká slasť bola v niektorých prípadoch hodnotená ako škodlivá.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Vedci nachystali pascu na temnú hmotu. Pokúsia sa ju zachytiť už čoskoro
Tajná zbraň prírody? Vedci objavili baktériu, ktorá požiera najväčšiu pliagu ľudstva
Budú omnoho prísnejšie. EÚ zverejnila nové pravidlá pre AI, takto vyzerajú
Je taký dokonalý, že by nemal existovať. Vedci objavili dychberúci „Einsteinov prstenec“
Batérie mu dodá čínsky gigant. Stellantis plánuje vyrábať elektromobily pod 20-tisíc eur
NAJČÍTANEJŠIE ZO STARTITUP
Trump prezradil miesto, kde bude rokovať s Putinom o mieri na Ukrajine
„Na začiatku sme si požičali 1 000 eur na prvú paletu fliaš.“ Jakub a Dávid vyrábajú najexkluzívnejšiu kombuchu na Slovensku
Rakovina pankreasu: Tichý zabijak s nenápadnými príznakmi. 5 signálov, ktoré nesmieš ignorovať
Daňový systém prešiel zmenami: Nad 4 036 eur platíš viac. Zisti, koľko ti reálne zostane z výplaty
Zmena kurzu: USA odmietli vstup Ukrajiny do NATO. Je to kapitulácia pred Putinom, tvrdia experti
- 24 hod
- 48 hod
- 7 dní
-
- AKTUÁLNE: Slováci môžu oddnes tankovať palivo budúcnosti. Znižuje emisie a je spoľahlivé v mrazoch
- Tajná zbraň prírody? Vedci objavili baktériu, ktorá požiera najväčšiu pliagu ľudstva
- Ukazuje konflikt, ktorý ponížil armádu USA. Slováci podľahli na Netflixe skutočnému príbehu
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
- Môžeš prísť o auto aj o vodičák. Polícia dostala nový prístroj, Slovákov začali kontrolovať priamo na ceste
-
- AKTUÁLNE: Slováci môžu oddnes tankovať palivo budúcnosti. Znižuje emisie a je spoľahlivé v mrazoch
- Významný objav neďaleko Slovenska. U našich susedov našli ložisko 235 miliónov m³ plynu
- Expert ESETu exkluzívne pre FonTech: Slovensko zamoril nový typ podvodu. Ak ťa hacknú, vypni si internet
- Astronómovia zachytili najzvláštnejší signál z vesmíru. Popiera všetky doterajšie teórie
- Ukazuje konflikt, ktorý ponížil armádu USA. Slováci podľahli na Netflixe skutočnému príbehu
-
- Významný objav neďaleko Slovenska. U našich susedov našli ložisko 235 miliónov m³ plynu
- Expert ESETu exkluzívne pre FonTech: Slovensko zamoril nový typ podvodu. Ak ťa hacknú, vypni si internet
- AKTUÁLNE: Slováci môžu oddnes tankovať palivo budúcnosti. Znižuje emisie a je spoľahlivé v mrazoch
- Astronómovia zachytili najzvláštnejší signál z vesmíru. Popiera všetky doterajšie teórie
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
Známa spoločnosť zdvojnásobila zisk. Môže za to rast ceny zlata
Milovaná služba Slovákov má 20 rokov. Používajú ju miliardy ľudí po celom svete
Boeing chytá druhý dych. Dodal najviac lietadiel za roky
Výbuchy vysoké až 100 metrov. 200 000-ročná sopka opäť chrlí lávu
Nemecké spoločnosti varujú. Ak vláda nezasiahne, čakajú nás hromadné prepúšťania
NAJČÍTANEJŠIE ZO STARTITUP
Trump prezradil miesto, kde bude rokovať s Putinom o mieri na Ukrajine
„Na začiatku sme si požičali 1 000 eur na prvú paletu fliaš.“ Jakub a Dávid vyrábajú najexkluzívnejšiu kombuchu na Slovensku
Rakovina pankreasu: Tichý zabijak s nenápadnými príznakmi. 5 signálov, ktoré nesmieš ignorovať
Daňový systém prešiel zmenami: Nad 4 036 eur platíš viac. Zisti, koľko ti reálne zostane z výplaty
Zmena kurzu: USA odmietli vstup Ukrajiny do NATO. Je to kapitulácia pred Putinom, tvrdia experti
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené