Američania boli sekundy od vojenského útoku na Čínu. Oklamala ich AI s jadrovou loďou

Americká armáda sa počas jarnej vojny s Iránom údajne ocitla nebezpečne blízko k zásahu proti čínskemu plavidlu. Dôvodom nebolo potvrdené spravodajské zistenie, ale chybný výstup chatbota, ktorý sa následne dostal do dokumentu vyzerajúceho ako štandardná spravodajská správa.

Podľa zistení CNN analyzoval pracovník amerického velenia nákladný manifest čínskej lode plaviacej sa v oblasti Blízkeho východu. Chatbot mal jednotlivé položky nesprávne vyhodnotiť ako komponenty určené pre program jadrových zbraní.

Nešlo teda o tvrdenie, že loď prevážala hotovú jadrovú hlavicu alebo rádioaktívny materiál. Aj podozrenie na prepravu súčiastok pre zbrojný program však stačilo na rozbehnutie príprav vojenskej operácie.

CNN sa odvoláva na štyri anonymné zdroje. Dva z nich uviedli, že ozbrojení vojaci sa pripravovali na obsadenie lode a vojenské lietadlá už boli vo vzduchu. Zásah zastavila až dodatočná kontrola pôvodnej správy, pri ktorej sa ukázalo, že rozhodujúci záver vytvorila AI.

Pentagon ani americké Veliteľstvo špeciálnych operácií pre Tichomorie incident verejne nepotvrdili. Nie je známe ani to, aký chatbot analytik použil a čo loď v skutočnosti prevážala.

Chatbot nehľadá pravdu

Problém sa neskončil pri nesprávnej identifikácii nákladu. Analytik mal umelú inteligenciu použiť aj na spracovanie výsledku do podoby oficiálne pôsobiaceho spravodajského dokumentu. Chybný záver tak získal štruktúru a jazyk, ktoré mohli u ďalších príjemcov vyvolať dojem, že prešiel štandardným overovaním.

Veľké jazykové modely pritom nefungujú ako databázy, ktoré pri každej otázke automaticky vyhľadajú overenú pravdu. Na základe naučených vzorov predpovedajú, aké slová majú nasledovať. Výsledkom môže byť veľmi presvedčivá odpoveď, ktorá je napriek profesionálnemu tónu nepravdivá.

Takéto správanie sa označuje ako halucinácia AI. Ako vysvetľuje IBM, model môže vygenerovať fakticky chybný alebo úplne vymyslený obsah bez toho, aby používateľa spoľahlivo upozornil na neistotu.

V tomto prípade mal chatbot navyše kombinovať verejne dostupné informácie s utajovanými údajmi zo signálového spravodajstva. Bez možnosti spätne dohľadať, z ktorého konkrétneho zdroja pochádza každý záver, sa však seriózna analýza ľahko zmení na zmes faktov a domnienok.

Bing

Človek v rozhodovacom reťazci nestačí

Incident podľa dostupného opisu neznamená, že AI autonómne prikázala zaútočiť. Rozhodnutia robili ľudia. Práve to však odhaľuje vážnejší problém: človek môže byť formálne súčasťou rozhodovacieho procesu, no napriek tomu iba potvrdiť presvedčivo napísaný výstup stroja.

Na FonTechu sme už upozorňovali, že vojenská AI môže skracovať čas na rozhodnutie a meniť človeka na poslednú formálnu pečiatku. Tento jav sa spája s automatizačným skreslením – tendenciou dôverovať počítačovému odporúčaniu viac, než si zaslúži.

Ak príjemca vidí upravenú spravodajskú správu, nemusí vedieť, že jej kľúčový záver pochádza z jedinej otázky položenej chatbotu. Profesionálne formátovanie môže zakryť neistotu aj chýbajúce dôkazy.

Pentagon zrýchľuje nasadzovanie AI

Americké ministerstvo obrany predstavilo v januári 2026 stratégiu zrýchleného zavádzania umelej inteligencie. Technológia má pomáhať pri analýze obrovského množstva dát, logistike, plánovaní aj vyhodnocovaní informácií zo senzorov.

Takéto využitie môže armáde priniesť veľkú výhodu. S rýchlejším nasadzovaním však musia držať krok pravidlá overovania. Generatívny model by nemal byť jediným podkladom na zadržanie lode alebo použitie sily. Každý záver musí byť spätne prepojiteľný s pôvodnými dátami a nezávisle skontrolovaný.

Zdroje CNN upozornili, že americké vojenské a spravodajské organizácie používajú rôzne nástroje a nemajú jednotný štandard overovania výstupov. Riziko sa násobí najmä v situáciách, keď majú velitelia na rozhodnutie iba minúty.

Aj experimenty s AI v simulovaných konfliktoch ukázali, že modely môžu odporúčať nebezpečnú eskaláciu vrátane použitia jadrových zbraní. Aktuálny prípad preto nie je dôkazom, že armády musia AI odmietnuť. Je varovaním, že sebavedomý tón chatbota nesmie byť zamieňaný za dôkaz.

Čítajte viac z kategórie: Novinky