Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí

Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.

GPT-4V v hernom prostredí

Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však  jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.

Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.

V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.

Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.

Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.

Ricky Casdorph/YouTube

Naučili ju zabíjať ľudí

Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.

Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.

Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.

Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.

Čítajte viac z kategórie: Novinky