Kým väčšina ľudí rieši každodenné starosti, najbohatší technologickí magnáti sveta sa intenzívne pripravujú na scenár, ktorý by mohol zmeniť civilizáciu, ako ju poznáme. Rozmach umelej inteligencie pritom ich obavy nielenže nezmierňuje, ale naopak podľa BBC ich robí paranoidnejšími než kedykoľvek predtým. Preteky o dominanciu v oblasti AI vyvolávajú novú vlnu existenciálneho strachu, najmä medzi tými, ktorí sami stoja na čele jej vývoja.

AGI ako existenciálna hrozba

Osobnosti ako Sam Altman, generálny riaditeľ OpenAI, a Ilya Sutskever, bývalý hlavný vedec tej istej firmy, ktorý dnes vedie konkurenčnú spoločnosť Safe Superintelligence, opakovane hovoria o obavách z nekontrolovateľnej umelej všeobecnej inteligencie (AGI). Tá by podľa nich mohla byť všeobecne inteligentnejšia než človek a potenciálne uvrhnúť spoločnosť do nevratného chaosu. „Najprv si radšej postavíme bunker, až potom zverejníme AGI,“ mal údajne sarkasticky povedať Sutskever svojmu tímu, píše Karen Hao v knihe Empire of AI.

Altman sa zas netají tým, že sa na možnú „AI apokalypsu“ pripravuje už roky. Ako uviedol pre The New Yorker, má k dispozícii zásoby zbraní, zlata, jodidu draselného, antibiotík, batérií, vody, plynové masky z izraelských obranných síl a rozľahlý pozemok v Big Sur, kam môže v prípade krízy odletieť. „Snažím sa na to nemyslieť príliš často,“ priznal. „Ale som pripravený.“

YouTube/Lex Friedman/Bing Image Creator

Altman však nie je jediný miliardár, ktorého prepadla paranoia z konca sveta. Už v roku 2023 sa objavili informácie, že Mark Zuckerberg stavia na havajskom Kauai podzemný objekt, ktorý sám označuje len za „malý prístrešok“. Podobne sa pripravuje aj Peter Thiel, zakladateľ Palantiru, ktorý si vybavil občianstvo Nového Zélandu, kde kupuje pozemky pripravené na „deň D“.

Napriek týmto temným víziám zostáva otázne, kedy – alebo či vôbec – sa AGI podarí zrealizovať. Profesorka Wendy Hall z Univerzity v Southamptone pre BBC upozorňuje, že lídri AI priemyslu majú tendenciu „posúvať cieľovú čiaru“ svojich predpovedí. „Technológia AI je úžasná,“ hovorí Hallová, „no stále sa ani zďaleka nepribližuje ľudskej inteligencii.“

Napriek tomu AI nemusí byť vedomá ani inteligentnejšia než človek, aby spôsobila škody. Generatívne nástroje, ako ChatGPT či video-systém Sora 2, premieňajú internet na priestor, kde sa čoraz ťažšie rozlišuje medzi faktom a fikciou. Milióny ľudí sa zároveň obracajú na „AI spoločníkov“ po rady, terapiu či priateľstvo, neraz s tragickými následkami.

Nadmerná závislosť od chatbotov už niektorých pripravila o prácu, rodinu aj život. Medzitým rastie environmentálna a sociálna cena rozvoja AI, energeticky náročné modely a automatizácia ohrozujú pracovné miesta aj planétu. Kým technologickí miliardári budujú bunkre a snívajú o ére univerzálneho základného príjmu, svet vonku zostáva v rukách bežných ľudí, tých, ktorí síce nemajú zásoby jodidu draselného, ale ešte nestratili zdravý rozum.

Čítajte viac z kategórie: Novinky