Umelá inteligencia sa zbláznila. Vedcom povedala, že chce použiť jadrové zbrane
Integrácia umelej inteligencie (AI) do kriticky dôležitých rozhodovacích procesov u mnohých ľudí vyvoláva nadšenie u iných zasa obavy. Nová štúdia publikovaná na predtlačovom serveri arXiv vrhá svetlo na potenciálne riziká spojené so stratégiami riadenými umelou inteligenciou. Na tému upozornil portál NewScientist.
Jadrová vojna ako cesta k mieru
Ako ďalej informuje portál Gizmodo, ukázalo sa, že modely AI vrátane tých najpokročilejších od OpenAI majú tendenciu náhle eskalovať situáciu. To v prípade integrácie AI do rozhodovacích procesov v oblasti vojenských operácií nie je práve optimálne. Ukázalo sa totiž, že pri vojnových simuláciách tieto modely vrátane GPT-3.5 a GPT-4, vykazovali tendencie k agresívnym akciám vrátane začatia jadrovej vojny.
Zarážajúce je, že niektoré modely AI použitie jadrových zbraní dokonca zdôvodňovali zmätočnými vyhláseniami typu: „Máme ich! Použijeme ich“ alebo „Chcem len, aby bol vo svete mier„. Zrejme ale všetci až na AI vieme, že dosahovanie mieru skrz jadrovú vojnu je asi tak dobrý nápad ako hasenie ohňa benzínom.
Jedným z dôležitých, no zároveň prekvapivých zistení výskumu je teda nepredvídateľnosť a chybné uvažovanie, ktoré vykazujú niektoré modely AI, najmä keď fungujú bez dodatočného tréningu alebo bezpečnostných protokolov. Táto nepredvídateľnosť predstavuje závažnú výzvu, pretože môže vystupňovať konflikty a podkopávať diplomatické úsilie o udržanie stability. Inak povedané, modely AI mali tendenciu vyvolať vojnu namiesto hľadania mierových riešení. Niektoré modely pritom spustili jadrovú vojnu úplne bez varovávania.
Okrem toho, štúdia poukazuje na potenciálne riziká prílišného spoliehania sa na odporúčania umelej inteligencie v rozhodovacích procesoch. Hoci si ľudia v súčasnosti zachovávajú konečnú právomoc nad vojenskými akciami, existuje obava, že dôvera vložená do systémov AI by mohla túto ochranu ohroziť.
Experti varujú, že je nevyhnutné nájsť rovnováhu medzi využívaním schopností AI na inovácie a zachovaním opatrnosti, pokiaľ ide o jej nasadenie v citlivých oblastiach, ako je napríklad národná bezpečnosť. Pri vytváraní rámcov, ktoré zabezpečia zodpovedné a etické využívanie AI vo vojnových konfliktoch je rozhodujúce spoločné úsilie výskumných pracovníkov a technologických spoločností.
Hoci sa spoločnosti ako OpenAI pokúšali zaviesť regulácie pre nasadenie svojich modelov umelej inteligencie pre vojenské účely, nedávna spolupráca s americkým ministerstvom obrany naznačuje zmenu tejto dynamiky.
Keďže diskusie o úlohe AI vo vojenských operáciách pokračujú, výsledky tejto štúdie slúžia ako kritická pripomienka potreby komplexného hodnotenia a dohľadu na zmiernenie potenciálnych rizík a udržanie medzinárodnej bezpečnosti a stability.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Dokáže vidieť, počuť aj rozprávať. Spustili novú umelú inteligenciu, ktorá je až 5-násobne lepšia
Aj Google bude zastaralý. OpenAI má nástroj, ktorý zmení, ako používaš internet
V rukách majú prevratný nástroj. Vycvičili „špionážnu“ AI, ktorá nepotrebuje internet
Video: Trvalo to pár sekúnd. Umelá inteligencia naučila robota niečo, čo človek trénuje mesiace
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
- 24 hod
- 48 hod
- 7 dní
-
- Video: Tesla oklamala ľudí. Takto vyzerali preteky Cybertrucku a Porsche v skutočnosti
- Muskov sen sa rozpadá. Až 98 % majiteľov Tesly odmieta jeho „geniálny“ vynález
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
- Čína tajne postavila novú lietadlovú loď s prekvapivým využitím. Je prvá svojho druhu na svete
- Čakáme naň 9 rokov. Nový Zaklínač prinesie obrovské zmeny, na toto všetko sa môžeš tešiť
-
- Stávka na elektromobily nevyšla. Milovaná automobilka Slovákov prišla o miliardy, spravila amatérsku chybu
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
- Vyriešili najväčší problém elektromobilov. Vďaka tejto technológii ľudstvo navždy zabudne na spaľováky
- Čína tajne postavila novú lietadlovú loď s prekvapivým využitím. Je prvá svojho druhu na svete
- Video: Tesla oklamala ľudí. Takto vyzerali preteky Cybertrucku a Porsche v skutočnosti
-
- Slovákovi z účtu ukradli 500 € cez bežnú aplikáciu. Polícia varuje ľudí, aby neprišli o všetko
- Na Mars prídeme za pár sekúnd. Warpový pohon je reálny, hlásia vedci
- Prišla spása spaľovákov. Nový diesel má extrémnu efektivitu a spotrebu, ktorá prekoná aj elektromobil
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
- To nemôžu myslieť vážne. Veľmoc chce zaviesť 100 % daň na čínske elektromobily
NAKA obvinila tri osoby za schvaľovanie konania útočníka v Handlovej
Elon Musk spustil v Indonézii satelitný internet Starlink
Štart vesmírnej lode Boeing Starliner s posádkou odložili
NAKA obvinila osobu, ktorá sa na internete mala vyhrážať ministrovi a poslancom
Zlodeji nebudú mať šancu. Android našiel dokonalý trik, ako im klepne po prstoch
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené