Umelá inteligencia sa zbláznila. Vedcom povedala, že chce použiť jadrové zbrane
Integrácia umelej inteligencie (AI) do kriticky dôležitých rozhodovacích procesov u mnohých ľudí vyvoláva nadšenie u iných zasa obavy. Nová štúdia publikovaná na predtlačovom serveri arXiv vrhá svetlo na potenciálne riziká spojené so stratégiami riadenými umelou inteligenciou. Na tému upozornil portál NewScientist.
Jadrová vojna ako cesta k mieru
Ako ďalej informuje portál Gizmodo, ukázalo sa, že modely AI vrátane tých najpokročilejších od OpenAI majú tendenciu náhle eskalovať situáciu. To v prípade integrácie AI do rozhodovacích procesov v oblasti vojenských operácií nie je práve optimálne. Ukázalo sa totiž, že pri vojnových simuláciách tieto modely vrátane GPT-3.5 a GPT-4, vykazovali tendencie k agresívnym akciám vrátane začatia jadrovej vojny.
Zarážajúce je, že niektoré modely AI použitie jadrových zbraní dokonca zdôvodňovali zmätočnými vyhláseniami typu: „Máme ich! Použijeme ich“ alebo „Chcem len, aby bol vo svete mier„. Zrejme ale všetci až na AI vieme, že dosahovanie mieru skrz jadrovú vojnu je asi tak dobrý nápad ako hasenie ohňa benzínom.
Jedným z dôležitých, no zároveň prekvapivých zistení výskumu je teda nepredvídateľnosť a chybné uvažovanie, ktoré vykazujú niektoré modely AI, najmä keď fungujú bez dodatočného tréningu alebo bezpečnostných protokolov. Táto nepredvídateľnosť predstavuje závažnú výzvu, pretože môže vystupňovať konflikty a podkopávať diplomatické úsilie o udržanie stability. Inak povedané, modely AI mali tendenciu vyvolať vojnu namiesto hľadania mierových riešení. Niektoré modely pritom spustili jadrovú vojnu úplne bez varovávania.
Okrem toho, štúdia poukazuje na potenciálne riziká prílišného spoliehania sa na odporúčania umelej inteligencie v rozhodovacích procesoch. Hoci si ľudia v súčasnosti zachovávajú konečnú právomoc nad vojenskými akciami, existuje obava, že dôvera vložená do systémov AI by mohla túto ochranu ohroziť.
Experti varujú, že je nevyhnutné nájsť rovnováhu medzi využívaním schopností AI na inovácie a zachovaním opatrnosti, pokiaľ ide o jej nasadenie v citlivých oblastiach, ako je napríklad národná bezpečnosť. Pri vytváraní rámcov, ktoré zabezpečia zodpovedné a etické využívanie AI vo vojnových konfliktoch je rozhodujúce spoločné úsilie výskumných pracovníkov a technologických spoločností.
Hoci sa spoločnosti ako OpenAI pokúšali zaviesť regulácie pre nasadenie svojich modelov umelej inteligencie pre vojenské účely, nedávna spolupráca s americkým ministerstvom obrany naznačuje zmenu tejto dynamiky.
Keďže diskusie o úlohe AI vo vojenských operáciách pokračujú, výsledky tejto štúdie slúžia ako kritická pripomienka potreby komplexného hodnotenia a dohľadu na zmiernenie potenciálnych rizík a udržanie medzinárodnej bezpečnosti a stability.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Prelomový nápad slovenského AI génia. S mimozemšťanmi chce komunikovať cez umelú inteligenciu
Prerazili etické dno. Kontroverznú AI používajú na „oživenie” mŕtvych
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
Táto umelá inteligencia vie, kedy zomrieš. Experti ale varujú, aby sme boli opatrní
- 24 hod
- 48 hod
- 7 dní
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Pozor: Slovákom v sekunde vezme všetky peniaze. Nová hrozba zneužíva milovanú apku
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Pozor: Slovákom v sekunde vezme všetky peniaze. Nová hrozba zneužíva milovanú apku
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
- Od týchto noviniek sa Slováci neodlepia. Netflix a ďalší ti v máji vyrazia dych
Európska komisia schválila prevzatie U.S. Steel japonským koncernom Nippon Steel
Aktuálne: Toto poteší všetkých Slovákov. Obľúbená banka spustila obrovskú vychytávku
Česko si kvôli kybernetickým útokom predvolalo ruského veľvyslanca
Nepochopíš, ako si existoval bez nej. Vďaka novinke YouTube sa už nikdy nebudeš nudiť
Platforma Voice of Europe sa dostane na sankčný zoznam EÚ
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené