Experti varujú pred katastrofou. Vojenská AI ohrozuje ľudí novým spôsobom

Vojenské technológie prechádzajú najradikálnejšou transformáciou za posledné desaťročia. Umelá inteligencia dnes dokáže spracovať satelitné snímky, dáta zo senzorov aj rádiovú komunikáciu v zlomku sekundy a okamžite označiť nepriateľský cieľ. Kým armádni generáli hovoria o bezprecedentnej presnosti a rýchlosti, etici a bezpečnostní analytici bijú na poplach, pretože človek v tomto reťazci prestáva stíhať overovať, či algoritmus neurobil fatálnu chybu.

Celý problém spočíva v tom, že rozhodovací čas sa v modernom boji scvrkol z hodín na obyčajné minúty či dokonca sekundy. Automatizované systémy navrhujú palebné riešenia takým tempom, že operátor pred obrazovkou často slúži už len ako formálna pečiatka bez reálnej možnosti overiť kontext situácie. Na zmenu bojovej dynamiky a čoraz rýchlejšie nasadzovanie autonómnych platforiem reaguje aj Severoatlantická aliancia, pričom NATO mení taktiku a zavádza nový plán obrany.

Podrobnosti o rizikách zazneli priamo na pôde amerického Kongresu pred komisiou Tom Lantos Human Rights Commission, pričom kľúčové svedectvá a zistenia zverejnil odborný portál defensenews.com. Experti pred zákonodarcami otvorene poukázali na to, že samotné tlačidlo na potvrdenie útoku neznamená, že človek má nad celým procesom skutočnú kontrolu.

Formálna kontrola nestačí, človek je len alibi

Ukrajinská výskumníčka v oblasti riadenia AI Anna Mysyshyn pred kongresmanmi upozornila, že súčasné nastavenie vytvára nebezpečnú ilúziu bezpečnosti. Algoritmus vygeneruje cieľ, vyhodnotí pravdepodobnosť zásahu a operátorovi zostáva len niekoľko desiatok sekúnd na rozhodnutie. Ak operátor nemá dostatok dodatočných informácií, je psychologicky tlačený do toho, aby odporúčaniu stroja dôveroval.

V takomto prostredí nesie človek formálnu právnu zodpovednosť za úder, no reálne nemá kapacitu spochybniť výstup umelej inteligencie. Dochádza tak k takzvanému automatizačnému skresleniu (automation bias), kedy operátori nekriticky preberajú rozhodnutia autonómnych nástrojov. Ak navyše jeden dôstojník dohliada na viacero autonómnych systémov naraz, šanca na odhalenie chyby pred odpálením rakety klesá k nule.

Mysyshyn uviedla ako príklad práve bojisko na Ukrajine, kde zapojenie digitálnych technológií stlačilo čas od identifikácie cieľa po jeho zničenie na absolútne minimum. Kým v minulosti prebiehalo viacstupňové overovanie spravodajských informácií, moderné algoritmy vytvárajú nepretržitý tlak na okamžitú reakciu, pretože nepriateľský cieľ sa môže kedykoľvek presunúť.

Pentagón tlačí na stratégiu AI-first

Americké ministerstvo obrany pritom vníma rýchlosť ako kľúčový prvok budúceho víťazstva. Už strategický dokument Pentagónu z roku 2023 definoval ako hlavný cieľ vytvorenie rýchlych, presných a odolných reťazcov ničenia cieľov, známych ako kill chains. Najnovšia stratégia pre rok 2026 ide ešte ďalej a požaduje transformáciu ozbrojených síl na princíp AI-first.

Tento koncept znamená kompletné prebudovanie vojenských pracovných postupov a operačných doktrín okolo možností umelej inteligencie. Cieľom je predbehnúť akéhokoľvek protivníka v rýchlosti vyhodnocovania situácie na bojisku. Platná smernica ministerstva obrany síce formálne vyžaduje primeranú úroveň ľudského úsudku pri použití sily, no technologická realita tieto hranice stiera.

Kritici poukazujú na to, že ak algoritmus dodáva informácie rýchlejšie, než ich ľudský mozog dokáže spracovať a autentifikovať, požiadavka na zmysluplný ľudský úsudok sa stáva len prázdnou frázou na papieri. Systémy ako Maven Smart System integrujú obrovské množstvá dát, no ich výstupy ostávajú pre bežného operátora často čiernou skrinkou.

Štatistické modely zlyhávajú inak ako bežný softvér

Bývalý vojenský dôstojník a odborník na vojenskú etiku Joseph Chapa upozornil na zásadný technický rozdiel medzi klasickým programom a modernými modelmi umelej inteligencie. Klasický softvér funguje na základe pevných deterministických pravidiel, zatiaľ čo AI modely pracujú na báze štatistickej inferencie.

To znamená, že aj minimálna zmena na vstupe, napríklad zmena svetelných podmienok, iný uhol satelitnej kamery alebo prítomnosť nového objektu v okolí, môže viesť k dramaticky odlišnému výstupu. Ak takýto model zlyhá v reálnom bojovom prostredí, je mimoriadne zložité spätne zrekonštruovať, prečo systém konkrétny objekt vyhodnotil ako legitímny vojenský cieľ.

Chapa preto požaduje masívne vzdelávanie armádneho personálu a vývoj auditovateľných systémov. Bez schopnosti presne analyzovať rozhodovací proces neurónovej siete nie je možné garantovať dodržiavanie medzinárodného humanitárneho práva ani spätne vyvodiť zodpovednosť voči veliteľom.

Tragické omyly a chýbajúce vyšetrovanie

Riziká spojené s chybami v zameriavaní nie sú len teoretickou hrozbou. Predstavitelia ľudskoprávnych organizácií pripomenuli tragické incidenty, kde zlyhanie overovacích mechanizmov viedlo k masívnym civilným obetiam. Príkladom bol zásah školy Shajareh Tayyebeh v juhoiránskom meste Mináb riadenou strelou Tomahawk, pri ktorom zahynulo viac ako 168 ľudí, z toho vyše 100 detí.

Hoci sa budova školy nachádzala v tesnej blízkosti niekdajšieho areálu revolučných gárd, satelitné snímky aj verejne dostupné webové stránky roky jasne dokazovali jej civilný účel. Viac ako 120 členov Kongresu USA následne žiadalo Pentagón o odpoveď, či bol pri identifikácii tohto cieľa nasadený systém Maven Smart System. Oficiálne výsledky vyšetrovania však rezort obrany doteraz nezverejnil.

Zástupkyňa Amnesty International USA Amanda Klasing preto navrhuje, aby výročné správy o civilných obetiach povinne obsahovali informácie o tom, či sa na zameraní podieľala umelá inteligencia. Doterajšie mechanizmy na monitorovanie civilných škôd navyše podľa interných auditov trpia nedostatkom personálu a slabým financovaním.

Rozhodujúci faktor zostáva v ľudskej empatii

Vojenský expert Steve Feldstein z think-tanku Carnegie Endowment for International Peace pripomína, že samotná AI nemusí byť zdrojom všetkého zla. Správne navrhnuté algoritmy vedia filtrovať falošné poplachy, analyzovať hrozby a pomáhať pri obrane proti masívnym raketovým či dronovým útokom.

Problém nastáva v momente, keď človek prenesie svoje vlastné predsudky a predpoklady do programovacieho rámca. Ak armádne velenie nastaví toleranciu kolaterálnych škôd príliš vysoko, stroj bude iba mechanicky plniť zadané parametre. Ako ukázal historický prípad z irackého Kirkúku v roku 2004, kde veliteľ hliadky nezahájil paľbu na strieľajúce auto, pretože v očiach posádky videl paniku zo svadobných osláv, ľudský úsudok a kontextové vnímanie sú v boji nenahraditeľné.

Vývoj autonómnych bojových prostriedkov smeruje do bodu, kedy technológia dokáže vykonať útok rýchlejšie, než človek stihne mrknúť. Ak medzinárodné spoločenstvo a armádni plánovači nenastavia striktné limity a kontrolné brzdy, najväčšou obeťou honby za rýchlosťou bude schopnosť rozlíšiť skutočnú hrozbu od nevinných ľudí.

Čítajte viac z kategórie: Tech