Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí
Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.
GPT-4V v hernom prostredí
Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.
Will GPT-4 Run DOOM?
Adrian de Wynter
tl;dr: GPT-4 can play "turn-based" Doom based on screenshotshttps://t.co/N9YKYk8dSp pic.twitter.com/FfeObwtD4k
— Dmytro Mishkin ?? (@ducha_aiki) March 11, 2024
Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.
V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.
Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.
Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.
Naučili ju zabíjať ľudí
Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.
Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.
Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.
Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Krutá pravda o Ficovi, Dankovi či Šimečkovi? Spýtali sme sa AI, čo si myslí o slovenských politikoch
Jedna z najlepších funkcií ChatGPT je konečne zadarmo. OpenAI pridáva aj bezpečnostné novinky
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
NAJČÍTANEJŠIE ZO STARTITUP
Ryanair spúšťa 7 nových liniek z Bratislavy: Už od októbra sa dostaneš k moru aj do TOP metropol
Vedci varujú pred „dobrými baktériami“. Po antibiotikách spôsobujú viac škody než úžitku, môžu zhoršiť stav
Astronomický skvost nad Slovenskom: Mesiac dnes „vymaže“ hviezdy z oblohy, magický úkaz zažiješ raz za desaťročie
Dom s pozemkami a ornou pôdou za 34 000 eur. Štát predáva prebytočný majetok za cenu garsónky
Banky menia pravidlá prevodu peňazí. Od októbra potrebuješ viac než len číslo účtu príjemcu
- 24 hod
- 48 hod
- 7 dní
-
- Padnutý strom v Amazónii nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté stáročia
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Zem je vo vnútri úplne iná ako sme si mysleli. Stojíme na gigantickom „oceáne”
- Slováci si našli nového miláčika. Tento mobil nestojí 1000 eur a poráža vlajkové lode Apple a Samsungu
- Dôležitá zmena pre používateľov Gmailu. Tradičným spôsobom sa už čoskoro neprihlásiš
-
- Padnutý strom v Amazónii nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté stáročia
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Zem je vo vnútri úplne iná ako sme si mysleli. Stojíme na gigantickom „oceáne”
- Slováci si našli nového miláčika. Tento mobil nestojí 1000 eur a poráža vlajkové lode Apple a Samsungu
- Dôležitá zmena pre používateľov Gmailu. Tradičným spôsobom sa už čoskoro neprihlásiš
-
- Padnutý strom v Amazónii nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté stáročia
- Vedcom padla sánka. 4 757 metrov pod ľadom Antarktídy objavili stratený svet
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Vedci našli artefakt starý 80 000 rokov. Odhalil, že o minulosti ľudstva sme sa totálne mýlili
- Japonci zaskočili konkurenciu. Nissan predstavil motor, aký svet ešte nevidel
Umelá inteligencia dostane prísnejšie pravidlá. Brusel chce Kódex praxe do roku 2026
Rusko zradil verný európsky spojenec. Poza jeho chrbát dodáva muníciu Ukrajine
Blanárove slová o dronoch vzbudili reakciu. Ukrajina odmieta spochybňovanie faktov
Rusko bojuje s krízou. Dôležitá komodita je ohrozená a láme rekordy cien, urobili zúfalý krok
iPhony a Androidy si konečne rozumejú. Veľký operátor spustil Slovákom roky vytúženú funkciu
NAJČÍTANEJŠIE ZO STARTITUP