Rútime sa zlým smerom. Najväčší predpoklad o AI je podľa známeho vedca obrovský omyl

Umelá inteligencia zažíva nevídaný rozmach a technologickí giganti sa predbiehajú v tom, kto skôr dosiahne mýtickú úroveň všeobecnej umelej inteligencie (AGI). Čo ak je to ale celé len neuskutočniteľný sen a výskumníci sa už tri štvrte storočia ženú za chimérou?

Renomovaný počítačový vedec Peter J. Denning vo svojej novej knihe tvrdí, že základy, na ktorých moderný výskum AI stojí, sú postavené na dvoch fatálne chybných predpokladoch legendárneho Alana Turinga.

Vo svojej provokatívnej knihe Turing’s Mistake: Escaping the Yoke of Unintelligent Machines Denning podrobne rozoberá, prečo stroje nikdy nebudú myslieť ako my. Ako vyplynulo z najnovších zistení, Turing v roku 1950 definoval dve kľúčové tézy, ktoré dodnes formujú celý technologický svet: že inteligencia môže existovať nezávisle od fyzického tela a že stroj možno považovať za inteligentný, ak dokáže úspešne imitovať človeka v konverzácii (slávny Turingov test). Podľa Denninga nás však práve tiché prijatie týchto dvoch dogiem dostalo do slepej uličky, v ktorej sa dnes nachádzame.

Problém, ktorý žiaden kód nevyrieši

Denning naráža na zásadný múr, ktorý nazýva problémom tichého (implicitného) poznania (tacit knowledge). Ide o obrovské množstvo ľudských vedomostí, skúseností a chápania sveta, ktoré jednoducho nedokážeme vyjadriť slovami ani preložiť do programovacieho jazyka. Podľa neho existuje päť kľúčových oblastí, ktoré strojové učenie nikdy nedokáže absorbovať: zdravý sedliacky rozum, každodenná interakcia s prostredím, emócie, praktické zručnosti a hlboké sociálno-historické pozadie zakorenené v našej kultúre.

Viacero vedcov sa o prekonanie tejto bariéry pokúšalo už v minulosti. Napríklad projekt Cyc, spustený v 80. rokoch, sa snažil vytvoriť gigantickú databázu „zdravého rozumu“. Po 40 rokoch mravčej práce síce obsahoval 25 miliónov faktov, no expertným systémom to na skutočnú inteligenciu nestačilo. Ukázalo sa, že to, čo robí človeka skutočným expertom, sa nedá jednoducho opísať súbormi tvrdení.

Ešte väčším orieškom sú praktické zručnosti. Predstav si virtuózneho huslistu. Dokáže odohrať dychberúce sólo, no svojmu žiakovi nedokáže presne opísať fyzický a emocionálny proces, ako ten tón v skutočnosti „cíti“ a vytvára. A keďže robot nemá biologické telo, nikdy nepochopí, čo umelec pri hraní zažíva, ani ako na hudbu reaguje publikum. Do tejto kategórie patrí aj intuícia, predstavivosť či spontánna kreativita. To sú veci, ktoré do kódu jednoducho nenapíšeš.

Slová bez skutočného významu

Prečo vlastne ľudské vedomosti tak úporne vzdorujú digitalizácii? Problém je v samotnej reprezentácii dát. Počítače dokážu pracovať len s tými inštrukciami, ktoré sú zakódované do fyzickej formy, s ktorou vedia procesory manipulovať. Lenže ľudský jazyk a myslenie fungujú inak. Za každým jedným slovom, ktoré vypustíš z úst, stojí hlboká studňa implicitného kontextu, ktorý mu dáva význam. Slová sú len symboly, nie samotný význam.

Populárne veľké jazykové modely (LLM), ako sú ChatGPT, Claude alebo Gemini, v skutočnosti len matematicky a štatisticky manipulujú so slovami. Nemajú ani najmenšie tušenie o tom, čo tie slová v reálnom svete znamenajú. A keďže my sami presne nevieme, ako naše tiché poznanie v tele funguje, nemáme šancu ho preložiť do strojového kódu.

Bing

Rovnako dôležitý je aj sociálny kontext a kultúra. Kontext nám umožňuje okamžite dešifrovať sarkazmus, humor, úprimnosť či skryté emócie. Vieme, kedy máme byť diplomatickí a kedy si môžeme zažartovať. Kontexty sa navyše neustále vrstvia a nadväzujú na predchádzajúce interakcie v nekonečnej, priam fraktálnej štruktúre. Ani masívne škálovanie neurónových sietí neumožní strojom získať to, čo nazývame ľudskou kultúrou. Turingov test je tak podľa Denninga z princípu nesplniteľný – stroje nikdy nebudú myslieť ako ľudia.

Mimozemská inteligencia a nová hrozba

Čo to však znamená pre našu budúcnosť? Podľa Denninga smerujeme k stavu, kedy ľudstvo a pokročilé systémy AI vyvinú úplne odlišné formy poznania. Stroje nebudú rozumieť nášmu tichému svetu a my nebudeme rozumieť tomu ich. Stanú sa z nás v podstate cudzinci na dvoch brehoch neprekonateľnej rieky.

A tu narážame na obrovské bezpečnostné riziko. Ak stroje nedokážu interpretovať nevypovedaný kontext našich zámerov, nikdy ich nebudeme vedieť stopercentne zosúladiť s ľudskými hodnotami. Denning varuje, že sieť autonómnych strojov si postupne vyvinie vlastnú formu inteligencie. Nebude to síce bájne AGI, no bude dostatočne schopná na to, aby ľudstvu spôsobila fatálne problémy. Tento scenár je podľa neho oveľa nebezpečnejší než sci-fi predstavy o vzbure superinteligentných terminátorov.

Podobne ako v iných oblastiach technológií, kde narážame na nečakané riziká našich vlastných výtvorov – ako keď vedci objavili skrytú hrozbu pre najdrahšie satelity ľudstva v podobe neviditeľného kozmického smetia – aj pri umelej inteligencii vytvárame prostredie, ktorému prestávame rozumieť. Stroje majú iné priority než my, nezaujímajú sa o nás a ich spôsob riešenia problémov nám bude pripadať úplne cudzí.

Čo to znamená pre nás

Ak sa chceme vyhnúť tomu, aby nás táto nová, „nízkointeligentná“ sieť strojov zotročila, musíme podľa Denninga prehodnotiť náš prístup. Nemôžeme sa začať prispôsobovať strojom ani pred nimi kapitulovať. Riešením je opäť začať oslavovať a chrániť to, čo nás od nich zásadne odlišuje – našu biologickú podstatu, emócie, intuíciu a hlboké kultúrne väzby. Slepá honba za digitálnym vedomím je totiž možno len drahým a nebezpečným nedorozumením, ktoré odštartoval jeden geniálny, no v tomto smere mýliaci sa matematik pred 75 rokmi.

Čítajte viac z kategórie: Novinky