„AI sa môže rozhodovať samostatne.“ Ex-šéf Googlu varuje pred stratou kontroly

Bývalý generálny riaditeľ Googlu, Eric Schmidt, varoval pred rýchlym vývojom AI. Podľa neho umelú inteligenciu bude potrebné odpojiť skôr, než bude neskoro.

V rozhovore pre ABC News Schmidt upozornil, že tempo inovácií napreduje tak rýchlo. Podľa neho je dôležité začať diskutovať o obmedzeniach ešte predtým, ako bude neskoro. O téme informoval portál Futurism.

AI musí mať kontrolu

V rozhovore síce vyzdvihol rozsah inovácií v oblasti AI a označil ho za pozoruhodný úspech, ktorý môže ľudstvu pomôcť napríklad pri objave nových liekov. Spolu so spoluautormi, bývalým manažérom Microsoftu Gregom Mundiem a zosnulým Henrym Kissingerom, Schmidt vo svojej novej knihe upozorňuje na riziká, ktoré môže AI priniesť. Podľa neho môže už čoskoro dosiahnuť úroveň, kedy bude schopná fungovať bez zásahov človeka a robiť vlastné rozhodnutia.

„Čoskoro budeme mať počítače, ktoré budú fungovať samostatne a rozhodovať, čo chcú robiť. Keď sa systém bude vedieť sám zlepšiť, musíme zvážiť jeho odpojenie,“ vyhlásil Schmidt.

„Teoreticky by sme mali mať niekoho, kto bude mať ruku na zástrčke,“ odpovedal Schmidt na otázku, či by superinteligentná AI bola schopná odraziť pokusy o jej zničenie. „Technologické firmy by nemali byť jedinými, ktoré robia tieto rozhodnutia,“ uviedol Eric Schmidt. Dodal, že je potrebné nastaviť pravidlá, ktoré budú chrániť ľudskú dôstojnosť.

Freepik

AI by kontrolovala AI

Zaujímavým paradoxom však je, že Schmidt navrhol, aby samotná umelá inteligencia do určitej miery dohliadala na svoj vývoj. „Ľudia nebudú schopní kontrolovať AI, ale systémy AI by mali byť schopné kontrolovať AI,“ poznamenal. Podľa Schmidta je najvyšší čas nájsť odpovede, skôr než sa otázky stanú neriešiteľnými.

Bolo to však správne rozhodnutie, keby umelá inteligencia mala dozor nad sebou? Nedávnom článku sme informovali o prípade, kedy AI model o1 od spoločnosti OpenAI začala klamať a keď si uvedomila, že by mohla byť vypnutá, aktívne pracovala na sabotovaní tohto mechanizmu.

Čítajte viac z kategórie: Novinky