Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí
Predplatné PREMIUM na mesiac ZDARMA.
Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.
GPT-4V v hernom prostredí
Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.
Will GPT-4 Run DOOM?
Adrian de Wynter
tl;dr: GPT-4 can play "turn-based" Doom based on screenshotshttps://t.co/N9YKYk8dSp pic.twitter.com/FfeObwtD4k
— Dmytro Mishkin 🇺🇦 (@ducha_aiki) March 11, 2024
Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.
V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.
Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.
Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.
Naučili ju zabíjať ľudí
Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.
Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.
Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.
Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
iPhone už nikdy nebude ako predtým. Prichádza novinka, ktorá ho posunie o úroveň vyššie
Slováci už nikdy nemusia strácať čas. Vyskúšali sme prelomovú AI, práca s PC nikdy nebola lepšia
Video: Umelá inteligencia prvýkrát bojovala s ľudským pilotom, takto dopadla
Ľudia hrajú druhé husle. Umelá inteligencia nás predbehla aj v poslednej veci
Miestami z neho mrazí. Predstavili najpokročilejšieho humanoídneho robota súčasnosti (+video)
- 24 hod
- 48 hod
- 7 dní
-
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
- Vedci rozlúštili 2000-ročný papyrus. Ukrýval odpoveď na jednu z najväčších otázok
- Nespoznáš ich. Nový zákon zmení slovenské diaľnice, toto začne platiť o 2 mesiace
- Najbrutálnejší slovenský film si čoskoro pozrieš online. V špeciálnej edícii bude len na jednom mieste
-
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
- Najbrutálnejší slovenský film si čoskoro pozrieš online. V špeciálnej edícii bude len na jednom mieste
- Slovensko zapíše do histórie. Naše lietajúce auto má za sebou obrovský úspech
- Je všade okolo nás. Vedci po 70 rokoch konečne zmerali najzáhadnejší typ hmoty
- Fanúšikovia sa búria. Práve zrušili ďalší seriál Hry o tróny
-
- Slováci zase naleteli. Slávnu appku okamžite vymaž, kradnú ti cez ňu heslá aj peniaze
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Okamžite si skontroluj účet. Známa aplikácia Slovákom strháva desiatky eur
- Najbrutálnejší slovenský film si čoskoro pozrieš online. V špeciálnej edícii bude len na jednom mieste
V spoločnosti Kia otvorili interaktívne tréningové centrum pre bezpečnosť práce
Burkina Faso dočasne pozastavila vysielanie staníc BBC a VoA
Microsoft a matka Googlu Alphabet dosiahli v 1. štvrťroku nečakane silný rast
Boeing má vytiahnuť z problémov. Jeho vesmírna loď štartuje už o pár dní
Kim Čong-un dohliadal na skúšku salvových raketometov
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené