Amatérsky hráč porazil vysoko hodnotený systém umelej inteligencie v strategickej hre Go pomocou jednej slabiny.

Radosť z tohto úspechu však mierne kazí fakt, že chyba AI bola objavená iným počítačom. Na tému upozornila Česká televízia na svojom webe.

Amatér porazil umelú inteligenciu

Ako ďalej píše portál EnGadget, vďaka využitiu tejto chyby amatérsky hráč Go Kellin Perline doslova zdemoloval systém KataGo a vyhral 14 z 15 hier. Aj keď so stratégiou, respektíve objavom chyby umelej inteligencie mu pomohol stroj, hra samotná a všetky kroky v nej boli plne v rukách ľudského hráča.

Donarreiskoffer/Wikimedia

„Tento výsledok naznačuje, že aj vysoko schopní agenti môžu mať kriticky zraniteľné miesta,“ cituje portál IFLScience skupinu výskumníkov, ktorá zostavila systém na vyhľadávanie slabín umelej inteligencie KataGo.

Prostredníctvom algoritmu zistili, že na porazenie KataGo je potrebné vytvoriť veľkú slučku okolo kameňov AI a zároveň ju postupne rozptyľovať pohybom kameňov v inej časti hracej dosky. Ukázalo sa, že KataGo nedokáže na túto stratégiu odpovedať v 97 až 99 % prípadov – v závislosti od toho, ktorá verzia KataGo bola použitá.

„Bolo pre nás až nečakane ľahké tento systém zneužiť,“ cituje Česká televízia vyjadrenie Adama Gleava, šéfa výskumnej spoločnosti FAR AI, ktorá program navrhla. Gleave tiež dodal, že ich softvér odohral viac ako milión hier proti KataGo, aby našiel medzeru v systéme, ktorú by ľudský hráč mohol využiť.

Vyvinutú stratégiu potom využil Kellin Pelrine na porazenie umelej inteligencie v strategickej hre, v ktorej dominujú stroje nad ľuďmi. Hoci ide fenomenálny výsledok (aj keď nám ľudom pomohol iný stroj), tieto zistenia majú omnoho väčšie a závažnejšie dôsledky.

Je síce zábavné sledovať chyby a zlyhania inteligentných systémov pri hraní Go, podobné zlyhania umelej inteligencie ale v kritických systémoch bezpečnosti, či už pri autonómnych vozidlách ale finančných obchodoch, môžu mať katastrofálne následky. Výsledky tiež podčiarkujú fakt, že ani vylepšovanie schopností AI sa nemusí vždy premietnuť do jej primárnej odolnosti voči zraniteľnosti.

Profesionálny hráč skončil s kariérou po tom, čo ho porazila umelá inteligencia

Za zmienku stojí aj fakt, že KataGo patrí medzi najlepšie systémy hrania hry Go. Lepšie si proti Perlinovi a jeho stratégii nepočínali ani ďalšie systémy vrátane Leela Zero, ktoré ľudský hráč bez väčších problémov porazil.

Ako by si Pelrine počínal proti svetoznámej AlphaGo, ktorá poslala profesionálneho hráča z Južnej Kórey Lee Se-Dola do predčasného dôchodku, ale zrejme nezistíme.

Hráč so svojou kariérou sekol ešte pred niekoľkými rokmi a to aj napriek tomu, že bol svetovou jednotkou. Vzhľadom na to, že nedokázal poraziť umelú inteligenciu od DeepMind patriacu pod krídla Google, rozhodol sa s hraním skončiť.

Se-dol bol niekoľko rokov za sebou v hre neporaziteľný aj proti AI, no všetko sa zmenilo v roku 2016, kedy ho novinka z dielne Google porazila v štyroch zápasoch z piatich.

V roku 2016 program AlphaGo nabral na popularite, keď v zápase proti vyššie spomínanému šampiónovi umelá inteligencia zaviedla taktické kroky, pre expertov na prvý pohľad vyznievajúce ako chyby. Z piatich zápasoch dokázal Se-dol vyhrať iba jeden, a to iba v prípade využitia vzácnej taktiky zvanej ako Hand of God.

Väčšina AI pri učení hry Go študovala záznamy 100 000 najlepších hráčov na svete, zatiaľ čo AlphaGo od Google študovala svoje vlastné hry stále dookola, po dobu troch rokov.

Čítajte viac z kategórie: Novinky