Umelá inteligencia dokáže zabíjať. V mrazivom experimente bez váhania strieľala aj na ľudí
Obľúbený pokročilý jazykový model GPT-4 prešiel zaujímavou skúškou. Bez predchádzajúceho tréningu sa na ňom totiž vedec Adrian de Wynter z University of York rozhodol spustiť legendárnu hru Doom. Experiment pritom jasne ukazuje, že GPT-4 skutočne dokáže vykonávať základné herné funkcie, ako je otváranie dverí či boj s nepriateľmi, ale aj znepokojujúce zabíjanie ľudí. Na tému upozornil portál Tom’s Hardware.
GPT-4V v hernom prostredí
Bohužiaľ, GPT-4, veľký jazykový model od OpenAI, nemá kapacitu na priame spustenie zdrojového kódu Doom, píše portál TheRegister. Dokáže to však jeho multimodálny variant GPT-4V. Cieľom tohto experimentu bolo ukázať schopnosti umelej inteligencie v komplexnom a dynamickom prostredí, ktoré si vyžaduje rýchle rozhodovanie a priestorové povedomie. Hoci GPT-4V preukázal určitú zdatnosť v základných herných mechanikách, ukázal aj mnoho nedostatkov.
Will GPT-4 Run DOOM?
Adrian de Wynter
tl;dr: GPT-4 can play "turn-based" Doom based on screenshotshttps://t.co/N9YKYk8dSp pic.twitter.com/FfeObwtD4k
— Dmytro Mishkin ?? (@ducha_aiki) March 11, 2024
Čo sa týka objavených nedostatkov, jedným z významných obmedzení bola absencia permanencie objektov, kognitívnej schopnosti, ktorá jednotlivcom umožňuje pochopiť, že objekty naďalej existujú, aj keď nie sú v dohľade.
V kontexte hry Doom to znamenalo, že umelá inteligencia zabúdala na nepriateľov, keď sa presunuli mimo obrazovky, čo viedlo k neoptimálnym rozhodnutiam a problémom s navigáciou. V dôsledku toho sa GPT-4V často zasekával v rohoch alebo nedokázal efektívne predvídať pohyb nepriateľov.
Tento nedostatok podčiarkuje širší problém kognitívnych schopností GPT-4V – konkrétne jeho neschopnosť uvažovať dlhodobo alebo udržiavať komplexný prehľad o hernom svete mimo jeho bezprostredného zorného poľa.
Treba však poznamenať, že napriek mnohým nedostatkom predstavuje experiment významný pokrok v oblasti spracovania prirodzeného jazyka a interakcie umelej inteligencie s virtuálnym prostredím.
Naučili ju zabíjať ľudí
Experiment s GPT-4V a hrou Doom slúži ako cenná ukážka súčasného stavu technológie umelej inteligencie v kontexte hier. Hoci schopnosť AI zapojiť sa do komplexného virtuálneho prostredia prostredníctvom spracovania prirodzeného jazyka je pôsobivá, jej kognitívne obmedzenia poukazujú na výzvy, ktoré zostávajú pri vývoji skutočne inteligentných a adaptívnych herných systémov.
Samotný de Wynter sa ale pozastavuje nad etickými dôsledkami. Za znepokojujúce považuje najmä skutočnosť, aké ľahké pre neho bolo vytvoriť kód, ktorého výsledkom bola streľba (hoci len virtuálna). S určitými obavami poukazuje na skutočnosť, že umelá inteligencia sa „s radosťou“ riadila pokynmi pre streľbu na terče bez toho, aby sa na čokoľvek pýtala.
Z tej svetlej stránky, napriek svojim nedostatkom dokáže GPT-4V hrať Doom bez predchádzajúceho tréningu, a poukazuje na jeho potenciálne využitie v automatizovanom testovaní videohier. Len aby sa nikdy nedostala do zlých rúk. De Wynter zdôrazňuje, že je dôležité zvážiť etické dôsledky nasadenia takýchto modelov, najmä vzhľadom na ich nedostatočnú informovanosť a možnosť zneužitia.
Experiment vrhá svetlo na rozvíjajúce sa možnosti umelej inteligencie a podnecuje k úvahám o hraniciach medzi technológiou a etikou. Keďže naďalej posúvame hranice umelej inteligencie, je čoraz dôležitejšie zabezpečiť, aby sa tieto výkonné nástroje používali zodpovedne a eticky, s dôkladným zvážením ich vplyvu na spoločnosť.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Krutá pravda o Ficovi, Dankovi či Šimečkovi? Spýtali sme sa AI, čo si myslí o slovenských politikoch
Jedna z najlepších funkcií ChatGPT je konečne zadarmo. OpenAI pridáva aj bezpečnostné novinky
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
NAJČÍTANEJŠIE ZO STARTITUP
Rebríček najhorších SUV na slovenskom trhu: Tieto autá technickou kontrolou len tak neprejdú, tvrdia odborníci
Stála na prahu smrti, dnes má telo dvadsiatničky: 53-ročná lekárka odhalila rutinu, ktorá ju omladila o tri desaťročia
Tajný dôchodkový bonus: Ako získať stovky eur navyše pri odchode do penzie (NÁVOD)
Zabraňuje návalom hladu a brzdí priberanie: Biohacking trik Kristen Bell zaujal odborníkov na výživu
Obyčajný zápal močového mechúra môže byť prvým príznakom rakoviny. Vedci objavili prekvapivú súvislosť
- 24 hod
- 48 hod
- 7 dní
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Slovákom leží v zuboch dodnes. Toto je príbeh filmu, kvôli ktorému Habera zažaloval Tarantinovho žiaka
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
- Ponúka silný motor za dostupné ceny. Volkswagen spustil na Slovensku predpredaj nového SUV
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
- Ponúka silný motor za dostupné ceny. Volkswagen spustil na Slovensku predpredaj nového SUV
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Slovákom leží v zuboch dodnes. Toto je príbeh filmu, kvôli ktorému Habera zažaloval Tarantinovho žiaka
-
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
Poľsko sa výrazne vojensky vyzbrojuje. Do konca roka chce posilniť svoju kľúčovú zónu
Kybernetická éra sa ukázala v Košiciach. SlovakiaTech 2025 láme všetky očakávania
Realita o elektroautách prekvapila celé Slovensko. Len malá časť ľudí má reálnu skúsenosť za volantom
Nečakaná krajina zbrojí na úroveň veľmocí. Od Izraelu kúpila zbrane za vyše 2 miliardy eur
Nenápadný faktor nás oberá o miliardy eur: Európska únia je pod tlakom extrémnych javov, ničia ekonomiku štátov
NAJČÍTANEJŠIE ZO STARTITUP