Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí
Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.
GPT-4V v hernom prostredí
Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.
Will GPT-4 Run DOOM?
Adrian de Wynter
tl;dr: GPT-4 can play "turn-based" Doom based on screenshotshttps://t.co/N9YKYk8dSp pic.twitter.com/FfeObwtD4k
— Dmytro Mishkin 🇺🇦 (@ducha_aiki) March 11, 2024
Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.
V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.
Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.
Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.
Naučili ju zabíjať ľudí
Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.
Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.
Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.
Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
Súboj gigantov sa vyostruje. Microsoft pracuje na novej AI, ktorá „pohltí“ ChatGPT aj Gemini
Prelomový nápad slovenského AI génia. S mimozemšťanmi chce komunikovať cez umelú inteligenciu
Prerazili etické dno. Kontroverznú AI používajú na „oživenie” mŕtvych
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
- 24 hod
- 48 hod
- 7 dní
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Banky bijú na poplach. Nový podvod sa snaží obrať Slovákov o milióny eur
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Dosť bolo odpadu. Marvel sa chce vrátiť na výslnie, odhalil novú stratégiu a zmeny
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
-
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
Nemysliteľný krok je realitou. Obrovské streamovacie služby spájajú sily v boji proti Netflixu
Analýza: Ojazdené autá zlacneli, a na trhu ich bolo medzimesačne menej
Japonská automobilka Toyota dosiahla v uplynulom finančnom roku rekordný zisk
USA zrušili povolenia na dodávky pre čínsku spoločnosť Huawei
Rusko podniklo ďalší rozsiahly útok na energetickú infraštruktúru Ukrajiny
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené