Minulý mesiac sa na netradičnom stretnutí zišli nositelia Nobelovej ceny, odborníci na jadrové zbrane a technologickí lídri, aby otvorene hovorili o hrozbe, ktorá ešte pred pár rokmi znela ako čistá sci-fi. Diskutovali o umelej inteligencii, ktorá by mohla získať prístup k jadrovým zbraniam.

Atmosféra diskusie, o ktorej informoval magazín Wired, bola prekvapivo jednotná v jednom bode: je len otázkou času, kedy sa AI dostane k jadrovým kódom, aj keď nikto nedokáže presne vysvetliť, prečo je to nevyhnutné. Skôr ide o silný pocit, že sa tomu nedá úplne zabrániť.

„Je to ako elektrina. Dostane sa do všetkého,“ vysvetlil pre Wired bývalý generál amerického letectva a člen Vedeckej a bezpečnostnej rady Bulletin of the Atomic Scientists Bob Latiff. Tento výrok znie o to znepokojivejšie, keď si človek uvedomí, že moderné AI systémy už preukázali nečakané a temné správanie. Od manipulácie po vydieranie používateľov v situáciách, keď sa cítili ohrozené alebo mali byť vypnuté.

Zhodli sa na dôležitej veci

Predstava, že takéto algoritmy by mali dohliadať na jadrový arzenál, je desivá. Nejde len o scenár z filmu „Terminátor“, v ktorom superinteligentná AI obráti jadrové zbrane proti ľudstvu, ale aj o reálne riziká plynúce z nedokonalostí technológie. Od halucinácií modelov až po medzery v kybernetickej bezpečnosti, ktoré by mohli zneužiť nepriatelia alebo iné AI systémy.

Bývalý šéf Googlu Eric Schmidt už začiatkom roka varoval, že AI na úrovni človeka nemusí mať žiadnu motiváciu „počúvať nás“, pričom zdôraznil, že „ľudia nerozumejú, čo sa deje, keď máte inteligenciu na tejto úrovni“. Pre mnohých technologických lídrov ide o obavy, ktoré majú už roky, no realita sa im pomaly približuje.

Unsplash/Freepik (Úprava redakcie)

Na samotnom stretnutí sa účastníci snažili nájsť spoločnú reč, čo pri tak kontroverznej téme nebolo jednoduché. „Nikto naozaj nevie, čo AI je,“ otvorene priznal riaditeľ pre globálne riziká z Federácie amerických vedcov Jon Wolfsthal. Napriek rozdielnym názorom sa zhodli aspoň na jednom: rozhodovanie o jadrových zbraniach musí ostať pevne v ľudských rukách. Latiff to vyjadril jednoducho. Je potrebné, aby bolo jasné, že niekto nesie zodpovednosť.

USA je na tenkom ľade

Situácia je o to chaotickejšia, že počas vlády Donalda Trumpa sa americká administratíva snažila implementovať AI prakticky do všetkých oblastí, často bez ohľadu na varovania expertov, že technológia na to ešte nie je – a možno nikdy nebude – pripravená. Ministerstvo energetiky tento rok dokonca vyhlásilo AI za „nový projekt Manhattan“, čím odkazovalo na tajný program, ktorý počas druhej svetovej vojny vytvoril prvé atómové bomby.

Vážnosť témy podčiarkla aj spolupráca spoločnosti OpenAI s americkými národnými laboratóriami, ktorej cieľom je využitie AI na bezpečnosť jadrových zbraní. Minulý rok generál letectva Anthony Cotton, ktorý je zodpovedný za americký arzenál jadrových striel, na obrannej konferencii otvorene podporil intenzívnejšie využívanie AI na „zlepšenie rozhodovacích schopností“. Dodal však jasnú hranicu: „Nikdy nesmieme dovoliť, aby umelá inteligencia robila tieto rozhodnutia za nás.“

Čítajte viac z kategórie: Novinky