Čo nezvládol najlepší hráč sveta, dokázal amatér. V známej hre zničil umelú inteligenciu
Amatérsky hráč porazil vysoko hodnotený systém umelej inteligencie v strategickej hre Go pomocou jednej slabiny.
Radosť z tohto úspechu však mierne kazí fakt, že chyba AI bola objavená iným počítačom. Na tému upozornila Česká televízia na svojom webe.
Amatér porazil umelú inteligenciu
Ako ďalej píše portál EnGadget, vďaka využitiu tejto chyby amatérsky hráč Go Kellin Perline doslova zdemoloval systém KataGo a vyhral 14 z 15 hier. Aj keď so stratégiou, respektíve objavom chyby umelej inteligencie mu pomohol stroj, hra samotná a všetky kroky v nej boli plne v rukách ľudského hráča.
„Tento výsledok naznačuje, že aj vysoko schopní agenti môžu mať kriticky zraniteľné miesta,“ cituje portál IFLScience skupinu výskumníkov, ktorá zostavila systém na vyhľadávanie slabín umelej inteligencie KataGo.
Prostredníctvom algoritmu zistili, že na porazenie KataGo je potrebné vytvoriť veľkú slučku okolo kameňov AI a zároveň ju postupne rozptyľovať pohybom kameňov v inej časti hracej dosky. Ukázalo sa, že KataGo nedokáže na túto stratégiu odpovedať v 97 až 99 % prípadov – v závislosti od toho, ktorá verzia KataGo bola použitá.
„Bolo pre nás až nečakane ľahké tento systém zneužiť,“ cituje Česká televízia vyjadrenie Adama Gleava, šéfa výskumnej spoločnosti FAR AI, ktorá program navrhla. Gleave tiež dodal, že ich softvér odohral viac ako milión hier proti KataGo, aby našiel medzeru v systéme, ktorú by ľudský hráč mohol využiť.
Vyvinutú stratégiu potom využil Kellin Pelrine na porazenie umelej inteligencie v strategickej hre, v ktorej dominujú stroje nad ľuďmi. Hoci ide fenomenálny výsledok (aj keď nám ľudom pomohol iný stroj), tieto zistenia majú omnoho väčšie a závažnejšie dôsledky.
Je síce zábavné sledovať chyby a zlyhania inteligentných systémov pri hraní Go, podobné zlyhania umelej inteligencie ale v kritických systémoch bezpečnosti, či už pri autonómnych vozidlách ale finančných obchodoch, môžu mať katastrofálne následky. Výsledky tiež podčiarkujú fakt, že ani vylepšovanie schopností AI sa nemusí vždy premietnuť do jej primárnej odolnosti voči zraniteľnosti.
Profesionálny hráč skončil s kariérou po tom, čo ho porazila umelá inteligencia
Za zmienku stojí aj fakt, že KataGo patrí medzi najlepšie systémy hrania hry Go. Lepšie si proti Perlinovi a jeho stratégii nepočínali ani ďalšie systémy vrátane Leela Zero, ktoré ľudský hráč bez väčších problémov porazil.
Ako by si Pelrine počínal proti svetoznámej AlphaGo, ktorá poslala profesionálneho hráča z Južnej Kórey Lee Se-Dola do predčasného dôchodku, ale zrejme nezistíme.
Hráč so svojou kariérou sekol ešte pred niekoľkými rokmi a to aj napriek tomu, že bol svetovou jednotkou. Vzhľadom na to, že nedokázal poraziť umelú inteligenciu od DeepMind patriacu pod krídla Google, rozhodol sa s hraním skončiť.
Se-dol bol niekoľko rokov za sebou v hre neporaziteľný aj proti AI, no všetko sa zmenilo v roku 2016, kedy ho novinka z dielne Google porazila v štyroch zápasoch z piatich.
V roku 2016 program AlphaGo nabral na popularite, keď v zápase proti vyššie spomínanému šampiónovi umelá inteligencia zaviedla taktické kroky, pre expertov na prvý pohľad vyznievajúce ako chyby. Z piatich zápasoch dokázal Se-dol vyhrať iba jeden, a to iba v prípade využitia vzácnej taktiky zvanej ako Hand of God.
Väčšina AI pri učení hry Go študovala záznamy 100 000 najlepších hráčov na svete, zatiaľ čo AlphaGo od Google študovala svoje vlastné hry stále dookola, po dobu troch rokov.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Google otvoril dvere do AI. Vypustil Barda, no trpí na závažný nedostatok
Stane sa neprekonateľným. ChatGPT dostal doplnky, ktoré posunú AI do neprebádaného územia
Muž dal umelej inteligencii 100 dolárov, aby mu rozbehla biznis. Vraj už zarobila tisíce
Štartuje nový „život“ s umelou inteligenciou. Takto získajú Slováci zadarmo prístup k verzii od Microsoftu
ROZHOVOR: Sú tlaky, aby bol 10-krát slabší. Slovensko chcelo najvýkonnejší superpočítač sveta v AI, ohrozuje ho politikárčenie
NAJČÍTANEJŠIE ZO STARTITUP
Muž sa chcel stať psom, zaplatil za to 14-tisíc eur. Bojí sa, že priatelia si pomyslia, že je divný
Potraviny Patrika Tkáča oslávili rok: Obslúži ťa robot, požičiaš si Mercedes a kúpiš tu víno aj za 5 900 eur
Jeden typ nehnuteľnosti bude v roku 2023 super investíciou, lacnejší nebude
Ľuďom z nich padla sánka. Najlepšie slovenské gastro podniky, ktoré tento rok otvorili
Česko je aj 30 rokov po rozdelení popredu. To, v čom sme lepší, je našou najväčšou slabinou
- 24 hod
- 48 hod
- 7 dní
-
- Zásadný omyl ľudstva vo vesmíre. Časopriestor neexistuje, všetko okolo nás je špeciálna tekutina
- Na sfilmovanie čaká 50 rokov, Pána prsteňov schová do vrecka. Veľkolepé fantasy Tolkiena zrejme nikdy neuvidíme
- Potvrdené. Jeden z najobľúbenejších seriálov Netflixu končí
- K Zemi letí obrovský asteroid, objavili ho na poslednú chvíľu
- Spoločnosť verí, že ich nový motor pochová elektromobily. Má 320 koní a váži len 32 kg
-
- Na sfilmovanie čaká 50 rokov, Pána prsteňov schová do vrecka. Veľkolepé fantasy Tolkiena zrejme nikdy neuvidíme
- K Zemi letí obrovský asteroid, objavili ho na poslednú chvíľu
- Zásadný omyl ľudstva vo vesmíre. Časopriestor neexistuje, všetko okolo nás je špeciálna tekutina
- Ľudia panikárili a kričali, že je to mimozemská loď. Záhadné manévre majú bizarné vysvetlenie
- Potvrdené. Jeden z najobľúbenejších seriálov Netflixu končí
-
- Na sfilmovanie čaká 50 rokov, Pána prsteňov schová do vrecka. Veľkolepé fantasy Tolkiena zrejme nikdy neuvidíme
- K Zemi letí obrovský asteroid, objavili ho na poslednú chvíľu
- Zásadný omyl ľudstva vo vesmíre. Časopriestor neexistuje, všetko okolo nás je špeciálna tekutina
- Ľudia panikárili a kričali, že je to mimozemská loď. Záhadné manévre majú bizarné vysvetlenie
- Potvrdené. Jeden z najobľúbenejších seriálov Netflixu končí
V Berlíne prebieha referendum o urýchlení klimatických cieľov o 15 rokov
EÚ a Nemecko dosiahli dohodu v otázke spaľovacích motorov
Bitcoin kopíruje výnimočný pohyb zlata z minulého tisícročia, môže dosiahnuť rekordnú hodnotu
Poškodená kozmická loď Sojuz sa vráti na Zem bez posádky
Hvezdárne a planetáriá pripravili pozorovanie oblohy, filmy i prednášky
NAJČÍTANEJŠIE ZO STARTITUP
Muž sa chcel stať psom, zaplatil za to 14-tisíc eur. Bojí sa, že priatelia si pomyslia, že je divný
Potraviny Patrika Tkáča oslávili rok: Obslúži ťa robot, požičiaš si Mercedes a kúpiš tu víno aj za 5 900 eur
Jeden typ nehnuteľnosti bude v roku 2023 super investíciou, lacnejší nebude
Ľuďom z nich padla sánka. Najlepšie slovenské gastro podniky, ktoré tento rok otvorili
Česko je aj 30 rokov po rozdelení popredu. To, v čom sme lepší, je našou najväčšou slabinou
Copyright© 2023 by Startitup, s. r. o. Všetky práva vyhradené