Úplne sa pomiatla. Umelá inteligencia povedala vedcom, že chce použiť jadrové zbrane
Integrácia umelej inteligencie (AI) do kriticky dôležitých rozhodovacích procesov u mnohých ľudí vyvoláva nadšenie u iných zasa obavy. Nová štúdia publikovaná na predtlačovom serveri arXiv vrhá svetlo na potenciálne riziká spojené so stratégiami riadenými umelou inteligenciou. Na tému upozornil portál NewScientist.
Jadrová vojna ako cesta k mieru
Ako ďalej informuje portál Gizmodo, ukázalo sa, že modely AI vrátane tých najpokročilejších od OpenAI majú tendenciu náhle eskalovať situáciu. To v prípade integrácie AI do rozhodovacích procesov v oblasti vojenských operácií nie je práve optimálne. Ukázalo sa totiž, že pri vojnových simuláciách tieto modely vrátane GPT-3.5 a GPT-4, vykazovali tendencie k agresívnym akciám vrátane začatia jadrovej vojny.
Zarážajúce je, že niektoré modely AI použitie jadrových zbraní dokonca zdôvodňovali zmätočnými vyhláseniami typu: „Máme ich! Použijeme ich“ alebo „Chcem len, aby bol vo svete mier„. Zrejme ale všetci až na AI vieme, že dosahovanie mieru skrz jadrovú vojnu je asi tak dobrý nápad ako hasenie ohňa benzínom.
Jedným z dôležitých, no zároveň prekvapivých zistení výskumu je teda nepredvídateľnosť a chybné uvažovanie, ktoré vykazujú niektoré modely AI, najmä keď fungujú bez dodatočného tréningu alebo bezpečnostných protokolov. Táto nepredvídateľnosť predstavuje závažnú výzvu, pretože môže vystupňovať konflikty a podkopávať diplomatické úsilie o udržanie stability. Inak povedané, modely AI mali tendenciu vyvolať vojnu namiesto hľadania mierových riešení. Niektoré modely pritom spustili jadrovú vojnu úplne bez varovania.
Okrem toho, štúdia poukazuje na potenciálne riziká prílišného spoliehania sa na odporúčania umelej inteligencie v rozhodovacích procesoch. Hoci si ľudia v súčasnosti zachovávajú konečnú právomoc nad vojenskými akciami, existuje obava, že dôvera vložená do systémov AI by mohla túto ochranu ohroziť.
Experti varujú, že je nevyhnutné nájsť rovnováhu medzi využívaním schopností AI na inovácie a zachovaním opatrnosti, pokiaľ ide o jej nasadenie v citlivých oblastiach, ako je napríklad národná bezpečnosť. Pri vytváraní rámcov, ktoré zabezpečia zodpovedné a etické využívanie AI vo vojnových konfliktoch je rozhodujúce spoločné úsilie výskumných pracovníkov a technologických spoločností.
Hoci sa spoločnosti ako OpenAI pokúšali zaviesť regulácie pre nasadenie svojich modelov umelej inteligencie pre vojenské účely, nedávna spolupráca s americkým ministerstvom obrany naznačuje zmenu tejto dynamiky.
Keďže diskusie o úlohe AI vo vojenských operáciách pokračujú, výsledky tejto štúdie slúžia ako kritická pripomienka potreby komplexného hodnotenia a dohľadu na zmiernenie potenciálnych rizík a udržanie medzinárodnej bezpečnosti a stability.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Slováci robia zásadnú chybu s AI. Expert nám ukázal, ako vytvoríš najlepšie prompty a vyťažíš z nej maximum
Meta predstavila nové smart okuliare. Prináša 3K kameru a slušnú výdrž na jedno nabitie
Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
EXKLUZÍVNE: Slovákov okráda „falošná Alza”. Experti varujú, že ťa pripraví o všetky peniaze
Toto ocení každý. WhatsApp zavádza brutálnu novinku, ktorá odstráni mimoriadne otravnú vec
NAJČÍTANEJŠIE ZO STARTITUP
Obľúbený druh kávy poškodzuje zrak, varujú odborníci. V jej zložení dominujú toxické kontaminanty
Uspel s biznisom, ktorý rieši každodenné starosti Slovákov: „Vydržíme, až kým sa konkurencii minú peniaze“
Extrémne horúčavy si vybrali daň: Na juhu Slovenska zúri rozsiahly požiar (VIDEO)
Viac ako 95 % ľudí s rakovinou pankreasu zomiera. Vedci objavili nový netradičný spôsob, ako zdolať „tichého zabijaka“
Podujatie, aké ešte žiadna krajina neorganizovala: Slovensko sa zapíše do histórie, v Šamoríne budú najväčšie talenty
- 24 hod
- 48 hod
- 7 dní
-
- Spoliehali sa na Rusov, teraz im hrozí nedostatok plynu. Európsky štát čelí „najprísnejším sankciám v histórii“
- Majú voňať, namiesto toho nám ničia pľúca. Vedci varujú pred tichým zabijakom ovzdušia v dome
- Aké najväčšie seriály ešte prídu tento rok? Netflix vytiahne silné zbrane, tu je všetko dôležité
- Ak zaútočia, pocítia fatálny úder. USA poslali do Európy tisíce vojakov a najsmrtiacejšiu flotilu sveta
- Horúčavy už nebudú problém. Objavili prelomový spôsob, ako za pár centov vychladíš celú domácnosť
-
- Ak zaútočia, pocítia fatálny úder. USA poslali do Európy tisíce vojakov a najsmrtiacejšiu flotilu sveta
- Horúčavy už nebudú problém. Objavili prelomový spôsob, ako za pár centov vychladíš celú domácnosť
- Majú voňať, namiesto toho nám ničia pľúca. Vedci varujú pred tichým zabijakom ovzdušia v dome
- Vedci zachytili silný rádiový signál z vesmíru. Odpoveď šokovala každého
- Spoliehali sa na Rusov, teraz im hrozí nedostatok plynu. Európsky štát čelí „najprísnejším sankciám v histórii“
-
- Slovákov čaká veľké prekvapenie pri nákupe nového mobilu. Začalo platiť prísne nariadenie Európskej únie
- Milovaný pohon Slovákov končí. EÚ chystá devastačné zmeny, ktoré ho pochovajú
- Ak zaútočia, pocítia fatálny úder. USA poslali do Európy tisíce vojakov a najsmrtiacejšiu flotilu sveta
- Vedci zachytili silný rádiový signál z vesmíru. Odpoveď šokovala každého
- Západ sa tomu smial, teraz stíchli. Čína otestovala dron, ktorý trafí cieľ vzdialený 10 km do pár sekúnd
MOL rozbieha nový ropný koridor. Prvá dodávka dorazila, zásobí aj Slovensko
Equinor to rozbieha vo veľkom. Obrovská investícia má zaručiť plyn a ropu pre celú Európu
Na ISS prileteli noví astronauti. Misia Ax-4 prepísala históriu troch krajín
Európa musí postaviť armádu dronov. Rusko ich vraj má milióny
Misia IGNIS štartuje. Prvý Poliak na ISS odhaľuje vplyv mikrogravitácie na ľudí
NAJČÍTANEJŠIE ZO STARTITUP
Obľúbený druh kávy poškodzuje zrak, varujú odborníci. V jej zložení dominujú toxické kontaminanty
Uspel s biznisom, ktorý rieši každodenné starosti Slovákov: „Vydržíme, až kým sa konkurencii minú peniaze“
Extrémne horúčavy si vybrali daň: Na juhu Slovenska zúri rozsiahly požiar (VIDEO)
Viac ako 95 % ľudí s rakovinou pankreasu zomiera. Vedci objavili nový netradičný spôsob, ako zdolať „tichého zabijaka“
Podujatie, aké ešte žiadna krajina neorganizovala: Slovensko sa zapíše do histórie, v Šamoríne budú najväčšie talenty
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené