Experti varujú pred katastrofou. Vojenská AI ohrozuje ľudí novým spôsobom
Vojenské technológie prechádzajú najradikálnejšou transformáciou za posledné desaťročia. Umelá inteligencia dnes dokáže spracovať satelitné snímky, dáta zo senzorov aj rádiovú komunikáciu v zlomku sekundy a okamžite označiť nepriateľský cieľ. Kým armádni generáli hovoria o bezprecedentnej presnosti a rýchlosti, etici a bezpečnostní analytici bijú na poplach, pretože človek v tomto reťazci prestáva stíhať overovať, či algoritmus neurobil fatálnu chybu.
Dostaň Fontech do svojich Google odporúčaní
Pridať ako preferovaný zdroj Fontech, odkaz sa otvorí v novom okneCelý problém spočíva v tom, že rozhodovací čas sa v modernom boji scvrkol z hodín na obyčajné minúty či dokonca sekundy. Automatizované systémy navrhujú palebné riešenia takým tempom, že operátor pred obrazovkou často slúži už len ako formálna pečiatka bez reálnej možnosti overiť kontext situácie. Na zmenu bojovej dynamiky a čoraz rýchlejšie nasadzovanie autonómnych platforiem reaguje aj Severoatlantická aliancia, pričom NATO mení taktiku a zavádza nový plán obrany.
Podrobnosti o rizikách zazneli priamo na pôde amerického Kongresu pred komisiou Tom Lantos Human Rights Commission, pričom kľúčové svedectvá a zistenia zverejnil odborný portál defensenews.com. Experti pred zákonodarcami otvorene poukázali na to, že samotné tlačidlo na potvrdenie útoku neznamená, že človek má nad celým procesom skutočnú kontrolu.
Formálna kontrola nestačí, človek je len alibi
Ukrajinská výskumníčka v oblasti riadenia AI Anna Mysyshyn pred kongresmanmi upozornila, že súčasné nastavenie vytvára nebezpečnú ilúziu bezpečnosti. Algoritmus vygeneruje cieľ, vyhodnotí pravdepodobnosť zásahu a operátorovi zostáva len niekoľko desiatok sekúnd na rozhodnutie. Ak operátor nemá dostatok dodatočných informácií, je psychologicky tlačený do toho, aby odporúčaniu stroja dôveroval.
V takomto prostredí nesie človek formálnu právnu zodpovednosť za úder, no reálne nemá kapacitu spochybniť výstup umelej inteligencie. Dochádza tak k takzvanému automatizačnému skresleniu (automation bias), kedy operátori nekriticky preberajú rozhodnutia autonómnych nástrojov. Ak navyše jeden dôstojník dohliada na viacero autonómnych systémov naraz, šanca na odhalenie chyby pred odpálením rakety klesá k nule.
Mysyshyn uviedla ako príklad práve bojisko na Ukrajine, kde zapojenie digitálnych technológií stlačilo čas od identifikácie cieľa po jeho zničenie na absolútne minimum. Kým v minulosti prebiehalo viacstupňové overovanie spravodajských informácií, moderné algoritmy vytvárajú nepretržitý tlak na okamžitú reakciu, pretože nepriateľský cieľ sa môže kedykoľvek presunúť.
Pentagón tlačí na stratégiu AI-first
Americké ministerstvo obrany pritom vníma rýchlosť ako kľúčový prvok budúceho víťazstva. Už strategický dokument Pentagónu z roku 2023 definoval ako hlavný cieľ vytvorenie rýchlych, presných a odolných reťazcov ničenia cieľov, známych ako kill chains. Najnovšia stratégia pre rok 2026 ide ešte ďalej a požaduje transformáciu ozbrojených síl na princíp AI-first.
Tento koncept znamená kompletné prebudovanie vojenských pracovných postupov a operačných doktrín okolo možností umelej inteligencie. Cieľom je predbehnúť akéhokoľvek protivníka v rýchlosti vyhodnocovania situácie na bojisku. Platná smernica ministerstva obrany síce formálne vyžaduje primeranú úroveň ľudského úsudku pri použití sily, no technologická realita tieto hranice stiera.
Kritici poukazujú na to, že ak algoritmus dodáva informácie rýchlejšie, než ich ľudský mozog dokáže spracovať a autentifikovať, požiadavka na zmysluplný ľudský úsudok sa stáva len prázdnou frázou na papieri. Systémy ako Maven Smart System integrujú obrovské množstvá dát, no ich výstupy ostávajú pre bežného operátora často čiernou skrinkou.
Štatistické modely zlyhávajú inak ako bežný softvér
Bývalý vojenský dôstojník a odborník na vojenskú etiku Joseph Chapa upozornil na zásadný technický rozdiel medzi klasickým programom a modernými modelmi umelej inteligencie. Klasický softvér funguje na základe pevných deterministických pravidiel, zatiaľ čo AI modely pracujú na báze štatistickej inferencie.
To znamená, že aj minimálna zmena na vstupe, napríklad zmena svetelných podmienok, iný uhol satelitnej kamery alebo prítomnosť nového objektu v okolí, môže viesť k dramaticky odlišnému výstupu. Ak takýto model zlyhá v reálnom bojovom prostredí, je mimoriadne zložité spätne zrekonštruovať, prečo systém konkrétny objekt vyhodnotil ako legitímny vojenský cieľ.
Chapa preto požaduje masívne vzdelávanie armádneho personálu a vývoj auditovateľných systémov. Bez schopnosti presne analyzovať rozhodovací proces neurónovej siete nie je možné garantovať dodržiavanie medzinárodného humanitárneho práva ani spätne vyvodiť zodpovednosť voči veliteľom.
Tragické omyly a chýbajúce vyšetrovanie
Riziká spojené s chybami v zameriavaní nie sú len teoretickou hrozbou. Predstavitelia ľudskoprávnych organizácií pripomenuli tragické incidenty, kde zlyhanie overovacích mechanizmov viedlo k masívnym civilným obetiam. Príkladom bol zásah školy Shajareh Tayyebeh v juhoiránskom meste Mináb riadenou strelou Tomahawk, pri ktorom zahynulo viac ako 168 ľudí, z toho vyše 100 detí.
Hoci sa budova školy nachádzala v tesnej blízkosti niekdajšieho areálu revolučných gárd, satelitné snímky aj verejne dostupné webové stránky roky jasne dokazovali jej civilný účel. Viac ako 120 členov Kongresu USA následne žiadalo Pentagón o odpoveď, či bol pri identifikácii tohto cieľa nasadený systém Maven Smart System. Oficiálne výsledky vyšetrovania však rezort obrany doteraz nezverejnil.
Zástupkyňa Amnesty International USA Amanda Klasing preto navrhuje, aby výročné správy o civilných obetiach povinne obsahovali informácie o tom, či sa na zameraní podieľala umelá inteligencia. Doterajšie mechanizmy na monitorovanie civilných škôd navyše podľa interných auditov trpia nedostatkom personálu a slabým financovaním.
Rozhodujúci faktor zostáva v ľudskej empatii
Vojenský expert Steve Feldstein z think-tanku Carnegie Endowment for International Peace pripomína, že samotná AI nemusí byť zdrojom všetkého zla. Správne navrhnuté algoritmy vedia filtrovať falošné poplachy, analyzovať hrozby a pomáhať pri obrane proti masívnym raketovým či dronovým útokom.
Problém nastáva v momente, keď človek prenesie svoje vlastné predsudky a predpoklady do programovacieho rámca. Ak armádne velenie nastaví toleranciu kolaterálnych škôd príliš vysoko, stroj bude iba mechanicky plniť zadané parametre. Ako ukázal historický prípad z irackého Kirkúku v roku 2004, kde veliteľ hliadky nezahájil paľbu na strieľajúce auto, pretože v očiach posádky videl paniku zo svadobných osláv, ľudský úsudok a kontextové vnímanie sú v boji nenahraditeľné.
Vývoj autonómnych bojových prostriedkov smeruje do bodu, kedy technológia dokáže vykonať útok rýchlejšie, než človek stihne mrknúť. Ak medzinárodné spoločenstvo a armádni plánovači nenastavia striktné limity a kontrolné brzdy, najväčšou obeťou honby za rýchlosťou bude schopnosť rozlíšiť skutočnú hrozbu od nevinných ľudí.
Čítajte viac z kategórie: Tech
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Odporcom došli slová: 30-ročnej fotovoltike odmerali výkon, výsledok je zarážajúci

Na Slovensku vznikne obrovský nový zdroj energie. Elektrinu vyrobí z 280 000 ton odpadu ročne

Číňania ponúkli novší elektromobil za rovnakú cenu. Zákazníci až potom zistili, čo z neho zmizlo

Má kapacitu ako celá spotreba krajiny, no takmer sa nepoužíva. Slovensko dostane nový zdroj plynu

Sci-fi „kladivo" je realitou. Proti novej zbrani Západu nemajú nepriatelia šancu
NAJČÍTANEJŠIE ZO STARTITUP

Mihál zverejnil kľúčové čísla pre rok 2027: Slovákom stúpnu mzdy, príplatky aj stravné (PREHĽAD)
PREMIUMUšetríš až 12-tisíc eur: Realitku na predaj bytu nepotrebuješ, stačí dodržať týchto 8 krokov (ODBORNÍK)

70 eur na dospelého a 30 eur na dieťa: Odborníčka radí, ako sa pripraviť na blackout (NÁVOD)

VIDEO: Tretí útok na Krymský most za týždeň zastavil vlaky. Kyjev ironicky blahoželá mostu v Lisabone k európskemu prvenstvu

O prácu príde približne 380 zamestnancov: Známa fabrika v Bánovciach radikálne obmedzuje výrobu
- 24 hod
- 48 hod
- 7 dní
-
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
- Putinovo Rusko čelilo rekordnému útoku. Oblohu zaplavilo vyše 1 400 ukrajinských dronov
- Čínsky „zabijak lietadlových lodí“ ukázal svoju silu. Otestovali ho pred bránami Európy
- Slovensko začalo sledovať drony novou technológiou. Dokáže odhaliť ich polohu, no má vážnu slabinu
- Výrobca motorov pre F-35 chystá novú generáciu zbraní. Bojové drony dostanú nový pohon
-
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Slováci by si mali skontrolovať kufor. Za toto ti môže polícia dať pokutu a zadržať doklady
- Najväčší film Christophera Nolona dorazil online aj s dabingom. Oplatí sa na jednom mieste
- Slováci na Netflixe objavili nový klenot. Neznámy seriál má na ČSFD až 83 %
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
-
- Švajčiari prišli na spôsob, ako vykurovať domácnosti takmer zadarmo. Teplo získajú z nečakaného zdroja
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Volkswagen trafil do čierneho. Jeho nové autá majú 212-tisíc rezervácií, zákazníci však odmietajú jednu vec
- Japonci ukázali nové SUV, ktoré prejde až 1 666 km. Stojí len 17-tisíc eur
Volkswagen prepustí až 100-tisíc ľudí. Z Nemecka napriek tomu zazneli prekvapivé slová
Európa čakala veľký solárny prepad. Zatmenie ukázalo, prečo veľké číslo pre Slovensko neplatilo
Výrobcom počítačov a mobilov končí obľúbený trik. EÚ prísne skoncuje s falošnou ekológiou
Má stáť zelená energia 120 eur za MWh? ÚRSO označil zelenú energiu za drahý omyl, pravda je iná
Európa chcela odstrihnúť Putina, deje sa však opak. Dovoz ruského LNG prudko vzrástol
USA chystajú vesmírny štít za 160 miliárd eur. Prvý ostrý zásah príde v roku 2029
Mochovce dosiahli kľúčový míľnik. Štvrtý blok už rozbehol jadrovú reakciu
NAJČÍTANEJŠIE ZO STARTITUP

Mihál zverejnil kľúčové čísla pre rok 2027: Slovákom stúpnu mzdy, príplatky aj stravné (PREHĽAD)
PREMIUMUšetríš až 12-tisíc eur: Realitku na predaj bytu nepotrebuješ, stačí dodržať týchto 8 krokov (ODBORNÍK)

70 eur na dospelého a 30 eur na dieťa: Odborníčka radí, ako sa pripraviť na blackout (NÁVOD)

VIDEO: Tretí útok na Krymský most za týždeň zastavil vlaky. Kyjev ironicky blahoželá mostu v Lisabone k európskemu prvenstvu

