Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí
Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.
GPT-4V v hernom prostredí
Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.
Will GPT-4 Run DOOM?
Adrian de Wynter
tl;dr: GPT-4 can play "turn-based" Doom based on screenshotshttps://t.co/N9YKYk8dSp pic.twitter.com/FfeObwtD4k
— Dmytro Mishkin 🇺🇦 (@ducha_aiki) March 11, 2024
Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.
V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.
Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.
Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.
Naučili ju zabíjať ľudí
Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.
Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.
Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.
Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Robot Lumi je revolúciou v solárnej energii. Za týždeň zvládne to, na čo ľudia potrebujú celé mesiace.
Najväčší hudobný podvrh roka. Spotify vypláca tisíce dolárov kapele, ktorá sa nikdy nenarodila
Salutujú, chytajú zločincov a hliadkujú. Známa destinácia nasadila do ulíc robotických policajtov
AdBlock pre reálny svet? S týmito okuliarmi neuvidíš žiadne reklamy
AI dali „mozog“ a ostali zaskočení. Čína testuje humanoida, ktorý sa správa až nepríjemne ľudsky
NAJČÍTANEJŠIE ZO STARTITUP
ŠÚKL stiahol z trhu 2 populárne lieky: Varuje pred možnou kontamináciou, skontroluj svoju lekárničku
Splatiť hypotéku skôr, alebo radšej investovať? Expert ukázal, čo môže Slovákom ušetriť tisíce eur (ROZHOVOR)
Rodinný dom s pozemkom za 17 000 eur: Štát predáva nepotrebný majetok za rozprávkové ceny
KVÍZ Len 15 % Slovákov vie odpovedať na všetky otázky. Prever svoje znalosti zo všeobecného prehľadu o svete
Terapia, ktorá prepíše starnutie: Kľúčom k predĺženiu života je proteín známy ako „strážca dlhovekosti“
- 24 hod
- 48 hod
- 7 dní
-
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Rusi zúfalo zháňajú peniaze. Ázijskému štátu ponúkajú svoje najmodernejšie zbrane, má to háčik
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- Európsky štát odštartoval jadrovú revolúciu. Urán pochovaný, prichádza lacná elektrina pre všetkých
- Čína oživila zabudnutý technologický skvost Sovietov. Unikli zábery lietadla, aké svet nevidel roky
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Do Ameriky doletí za 90 minút. Prelomové lietadlo v prvých testoch všetkých prekvapilo
- Japonsko čelí obrovskej kritike. Púšťa sa do riskantnej ťažby surovín, ktorú ešte nikto nevyskúšal
- Čína oživila zabudnutý technologický skvost Sovietov. Unikli zábery lietadla, aké svet nevidel roky
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- Európa do neho investovala miliardy eur, teraz ho ľudia nechcú. Predaj energetického zariadenia prudko klesol
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- Celý život triedila plasty. Žena neverila vlastným očiam, keď pomocou AirTagu zistila, kde končia
- Lacný ako Fabia, výkonný ako Porsche. Známa značka spustila predaj auta s dojazdom 2 000 km
Slováci prepadli pri výbere auta novému trendu. Čísla hovoria za všetko, pozor však na riziká
AI pretransformuje spoločnosť, tvrdí odborník. Varuje pred kľúčovou chybou, ktorú robíme
Nepríjemná správa pre motoristov na Slovensku. Analytik predpovedá ceny palív, susedia sú na tom lepšie
Cukrovkári dostali nádej na život bez striekačiek. Vedci vyvinuli liečbu, ktorá donúti telo k tvorbe inzulínu
Mladí Slováci podľahli nebezpečnému trendu. Umelá inteligencia im nahrádza jednu z najdôležitejších vecí
NAJČÍTANEJŠIE ZO STARTITUP