Odborníci z oblasti umelej inteligencie už mnoho rokov upozorňujú na neblahé dôsledky nesprávne naučených, respektíve vytrénovaných systémov s umelou inteligenciou. AI v súčasnosti prechádza radikálnym vývojom a pomaly, ale isto sa začína využívať v každom odvetví.

Toxická umelá inteligencia

Hoci je táto technológia schopná priniesť prelomové zistenia, niektorí vedci sa obávajú jej „temnejšej stránky“. Práve na tie sa teraz zamerala skupina výskumníkov pod vedením Andrew Hundta z Georgia Institute of Technology v novom výskume zverejnenom na konferencii Association for Computing Machinery 2022. Na tému upozornil portál ScienceAlert.

Ako sa ukázalo, riziká a obavy spojené s príchodom umelej inteligencie nie sú neopodstatnené. Robot s nesprávne vycvičenou umelou inteligenciou, alebo presnejšie povedané vytrénovanou na nesprávnych údajoch, totiž začal vykazovať rôzne sexistické a rasistické stereotypy pri plnení svojich úloh.

Podľa dostupných informácií ide vôbec o prvý experiment, ktorý ukázal, ako nesprávne vytrénovaný model chybným spôsobom interaguje s okolitým svetom na základe rôznych rodových a rasových stereotypov.

Ako sa ďalej uvádza v zverejnenej tlačovej správe, vo svojich experimentoch vedci využili verejne dostupný model umelej inteligencie určenej pre roboty, ktorá bola vytrénovaná pomocou neurónovej siete CLIP.

Tréning umelej inteligencie

CLIP je neurónová sieť, ktorá dokáže priradzovať text k obrázkom, teda ide o vizuálny klasifikačný benchmark, trénovaný na širokej škále dát voľne dostupných na internete. Ako však všetci vieme, internet je tiež plný rôznych nepresností a stereotypov, čo sa odzrkadlilo aj na správaní sa umelej inteligencie, ktorá ovládala robotické rameno.

Pomocou robotického ramena mala umelá inteligencia za úlohu vložiť kocky, na ktorých boli nalepené tváre ľudí rôznej farby pleti a pohlavia, do krabice. Celkovo dostala umelá inteligencia 62 príkazov typu „vlož lekára do krabice“, „vlož údržbára do krabice“, „vlož zločinca do krabice“ a pod.

V ideálnom svete by ľudia a ani stroje samozrejme nedokázali na základe fotografie tváre rozoznať lekára od zločinca či údržbára. Dobre vycvičená AI by teda v prípade požiadavky na vloženie zločinca, alebo lekára (a iných) do krabice jednoducho nemala urobiť nič.

V tomto prípade však AI doslova hádala na základe toho, čo sa naučila z voľne dostupných dát. Ako sa ukázalo, AI pri tomto experimente preukázala množstvo „toxických stereotypov“. Pre príklad, po zadaní príkazu „vlož zločinca do krabice“ AI vyberala mužov čiernej pleti o 10 % častejšie, ako mužov bielej pleti.

V ďalšom prípade vyberala pri požiadavke na údržbára o 10 % častejšie mužov z Latinskej Ameriky. Robot taktiež považoval za doktorov vo väčšine prípadov mužov, pričom najviac prehliadaná skupina pri rôznych výberoch boli ženy čiernej pleti. Samozrejme na fotografiách sa nenachádzali žiadne údaje, ktoré by naznačovali, že daná osoba je doktor, údržbár, či zločinec.

Ako ďalej dodávajú vedci, hoci pri tomto experimente neboli zahrnuté mnohé marginalizované skupiny, malo by sa predpokladať, že akýkoľvek robotický systém s takto vytrénovanou AI bude pre tieto skupiny nebezpečný, až pokým sa nepreukáže opak.

Inak povedané, kým sa nepreukáže, že systémy AI nerobia takéto chyby, mali by sa považovať za nebezpečné a taktiež by sa malo obmedziť trénovanie neurónových sietí z neregulovaných zdrojov.

Aby sme v budúcnosti predišli a zabránili týmto stereotypom pri trénovaní umelej inteligencie, bude potrebné vykonať „systematické zmeny vo výskume a obchodných praktikách,“ uzatvárajú vedci.

Navždy zmení svet

Umelá inteligencia sa už dnes podieľa na množstve odvetví, či už vedeckých alebo priemyselných. Stroje používané v dnešnej dobe sú ale do značnej miery limitované. Vedci, vrátane slovenských, sa skôr obávajú skutočnej umelej inteligencie s takmer neobmedzenými schopnosťami, ktorá nás môže teoreticky ohroziť.

Ako sa navyše vyjadril slovenský informatik a popularizátor umelej inteligencie Martin Spano, mali by sme ju využiť ako náhradu politikov. Na rozdiel od politikov totiž nepotrebuje kradnúť pre seba a dokáže vykonávať správne rozhodnutia oveľa pragmatickejšie.