Čo nezvládol najlepší hráč sveta, dokázal amatér. V známej hre zničil umelú inteligenciu
Amatérsky hráč porazil vysoko hodnotený systém umelej inteligencie v strategickej hre Go pomocou jednej slabiny.
Radosť z tohto úspechu však mierne kazí fakt, že chyba AI bola objavená iným počítačom. Na tému upozornila Česká televízia na svojom webe.
Amatér porazil umelú inteligenciu
Ako ďalej píše portál EnGadget, vďaka využitiu tejto chyby amatérsky hráč Go Kellin Perline doslova zdemoloval systém KataGo a vyhral 14 z 15 hier. Aj keď so stratégiou, respektíve objavom chyby umelej inteligencie mu pomohol stroj, hra samotná a všetky kroky v nej boli plne v rukách ľudského hráča.
„Tento výsledok naznačuje, že aj vysoko schopní agenti môžu mať kriticky zraniteľné miesta,“ cituje portál IFLScience skupinu výskumníkov, ktorá zostavila systém na vyhľadávanie slabín umelej inteligencie KataGo.
Prostredníctvom algoritmu zistili, že na porazenie KataGo je potrebné vytvoriť veľkú slučku okolo kameňov AI a zároveň ju postupne rozptyľovať pohybom kameňov v inej časti hracej dosky. Ukázalo sa, že KataGo nedokáže na túto stratégiu odpovedať v 97 až 99 % prípadov – v závislosti od toho, ktorá verzia KataGo bola použitá.
„Bolo pre nás až nečakane ľahké tento systém zneužiť,“ cituje Česká televízia vyjadrenie Adama Gleava, šéfa výskumnej spoločnosti FAR AI, ktorá program navrhla. Gleave tiež dodal, že ich softvér odohral viac ako milión hier proti KataGo, aby našiel medzeru v systéme, ktorú by ľudský hráč mohol využiť.
Vyvinutú stratégiu potom využil Kellin Pelrine na porazenie umelej inteligencie v strategickej hre, v ktorej dominujú stroje nad ľuďmi. Hoci ide fenomenálny výsledok (aj keď nám ľudom pomohol iný stroj), tieto zistenia majú omnoho väčšie a závažnejšie dôsledky.
Je síce zábavné sledovať chyby a zlyhania inteligentných systémov pri hraní Go, podobné zlyhania umelej inteligencie ale v kritických systémoch bezpečnosti, či už pri autonómnych vozidlách ale finančných obchodoch, môžu mať katastrofálne následky. Výsledky tiež podčiarkujú fakt, že ani vylepšovanie schopností AI sa nemusí vždy premietnuť do jej primárnej odolnosti voči zraniteľnosti.
Profesionálny hráč skončil s kariérou po tom, čo ho porazila umelá inteligencia
Za zmienku stojí aj fakt, že KataGo patrí medzi najlepšie systémy hrania hry Go. Lepšie si proti Perlinovi a jeho stratégii nepočínali ani ďalšie systémy vrátane Leela Zero, ktoré ľudský hráč bez väčších problémov porazil.
Ako by si Pelrine počínal proti svetoznámej AlphaGo, ktorá poslala profesionálneho hráča z Južnej Kórey Lee Se-Dola do predčasného dôchodku, ale zrejme nezistíme.
Hráč so svojou kariérou sekol ešte pred niekoľkými rokmi a to aj napriek tomu, že bol svetovou jednotkou. Vzhľadom na to, že nedokázal poraziť umelú inteligenciu od DeepMind patriacu pod krídla Google, rozhodol sa s hraním skončiť.
Se-dol bol niekoľko rokov za sebou v hre neporaziteľný aj proti AI, no všetko sa zmenilo v roku 2016, kedy ho novinka z dielne Google porazila v štyroch zápasoch z piatich.
V roku 2016 program AlphaGo nabral na popularite, keď v zápase proti vyššie spomínanému šampiónovi umelá inteligencia zaviedla taktické kroky, pre expertov na prvý pohľad vyznievajúce ako chyby. Z piatich zápasoch dokázal Se-dol vyhrať iba jeden, a to iba v prípade využitia vzácnej taktiky zvanej ako Hand of God.
Väčšina AI pri učení hry Go študovala záznamy 100 000 najlepších hráčov na svete, zatiaľ čo AlphaGo od Google študovala svoje vlastné hry stále dookola, po dobu troch rokov.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
Táto umelá inteligencia vie, kedy zomrieš. Experti ale varujú, aby sme boli opatrní
iPhone už nikdy nebude ako predtým. Prichádza novinka, ktorá ho posunie o úroveň vyššie
Slováci už nikdy nemusia strácať čas. Vyskúšali sme prelomovú AI, práca s PC nikdy nebola lepšia
- 24 hod
- 48 hod
- 7 dní
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Odhalenie mimozemského života je na spadnutie. Vedci odkryli nové detaily
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Odhalenie mimozemského života je na spadnutie. Vedci odkryli nové detaily
-
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Zem má druhý mesiac, vieme odkiaľ pochádza. Odhalil ho gigantický kráter
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
Na ISS našli zmutovanú baktériu, je odolná voči viacerým liekom
Väčšina dospelých Američanov vníma TikTok ako nástroj čínskeho režimu
Žarty bokom. LinkedIn po novom ponúka knižnicu hier
Podvodné superjachty? Predstavili koncept lode, ktorá sa ponorí na celé týždne a ochráni ťa pred asteroidmi
Koniec súkromia na WhatsAppe. Zavádzajú funkciu, ktorá nebude každému pri chuti
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené