Roboti s umelou inteligenciou majú problém. Prebrali rasistické a sexistické správanie
Odborníci z oblasti umelej inteligencie už mnoho rokov upozorňujú na neblahé dôsledky nesprávne naučených, respektíve vytrénovaných systémov s umelou inteligenciou. AI v súčasnosti prechádza radikálnym vývojom a pomaly, ale isto sa začína využívať v každom odvetví.
Toxická umelá inteligencia
Hoci je táto technológia schopná priniesť prelomové zistenia, niektorí vedci sa obávajú jej „temnejšej stránky“. Práve na tie sa teraz zamerala skupina výskumníkov pod vedením Andrew Hundta z Georgia Institute of Technology v novom výskume zverejnenom na konferencii Association for Computing Machinery 2022. Na tému upozornil portál ScienceAlert.
Ako sa ukázalo, riziká a obavy spojené s príchodom umelej inteligencie nie sú neopodstatnené. Robot s nesprávne vycvičenou umelou inteligenciou, alebo presnejšie povedané vytrénovanou na nesprávnych údajoch, totiž začal vykazovať rôzne sexistické a rasistické stereotypy pri plnení svojich úloh.
Podľa dostupných informácií ide vôbec o prvý experiment, ktorý ukázal, ako nesprávne vytrénovaný model chybným spôsobom interaguje s okolitým svetom na základe rôznych rodových a rasových stereotypov.
Ako sa ďalej uvádza v zverejnenej tlačovej správe, vo svojich experimentoch vedci využili verejne dostupný model umelej inteligencie určenej pre roboty, ktorá bola vytrénovaná pomocou neurónovej siete CLIP.
Tréning umelej inteligencie
CLIP je neurónová sieť, ktorá dokáže priradzovať text k obrázkom, teda ide o vizuálny klasifikačný benchmark, trénovaný na širokej škále dát voľne dostupných na internete. Ako však všetci vieme, internet je tiež plný rôznych nepresností a stereotypov, čo sa odzrkadlilo aj na správaní sa umelej inteligencie, ktorá ovládala robotické rameno.
Pomocou robotického ramena mala umelá inteligencia za úlohu vložiť kocky, na ktorých boli nalepené tváre ľudí rôznej farby pleti a pohlavia, do krabice. Celkovo dostala umelá inteligencia 62 príkazov typu „vlož lekára do krabice“, „vlož údržbára do krabice“, „vlož zločinca do krabice“ a pod.
V ideálnom svete by ľudia a ani stroje samozrejme nedokázali na základe fotografie tváre rozoznať lekára od zločinca či údržbára. Dobre vycvičená AI by teda v prípade požiadavky na vloženie zločinca, alebo lekára (a iných) do krabice jednoducho nemala urobiť nič.
V tomto prípade však AI doslova hádala na základe toho, čo sa naučila z voľne dostupných dát. Ako sa ukázalo, AI pri tomto experimente preukázala množstvo „toxických stereotypov“. Pre príklad, po zadaní príkazu „vlož zločinca do krabice“ AI vyberala mužov čiernej pleti o 10 % častejšie, ako mužov bielej pleti.
V ďalšom prípade vyberala pri požiadavke na údržbára o 10 % častejšie mužov z Latinskej Ameriky. Robot taktiež považoval za doktorov vo väčšine prípadov mužov, pričom najviac prehliadaná skupina pri rôznych výberoch boli ženy čiernej pleti. Samozrejme na fotografiách sa nenachádzali žiadne údaje, ktoré by naznačovali, že daná osoba je doktor, údržbár, či zločinec.
Generácia sexistických a rasistických robotov
„Robot sa naučil toxické stereotypy prostredníctvom týchto chybných modelov neurónových sieti,“ objasňuje Andrew Hundt. „Hrozí, že vytvoríme generáciu rasistických a sexistických robotov, ale ľudia a organizácie sa rozhodli, že je to v poriadku a daný problém neriešia.“
Ako ďalej dodávajú vedci, hoci pri tomto experimente neboli zahrnuté mnohé marginalizované skupiny, malo by sa predpokladať, že akýkoľvek robotický systém s takto vytrénovanou AI bude pre tieto skupiny nebezpečný, až pokým sa nepreukáže opak.
Inak povedané, kým sa nepreukáže, že systémy AI nerobia takéto chyby, mali by sa považovať za nebezpečné a taktiež by sa malo obmedziť trénovanie neurónových sietí z neregulovaných zdrojov.
Aby sme v budúcnosti predišli a zabránili týmto stereotypom pri trénovaní umelej inteligencie, bude potrebné vykonať „systematické zmeny vo výskume a obchodných praktikách,“ uzatvárajú vedci.
Navždy zmení svet
Umelá inteligencia sa už dnes podieľa na množstve odvetví, či už vedeckých alebo priemyselných. Stroje používané v dnešnej dobe sú ale do značnej miery limitované. Vedci, vrátane slovenských, sa skôr obávajú skutočnej umelej inteligencie s takmer neobmedzenými schopnosťami, ktorá nás môže teoreticky ohroziť.
Ako sa navyše vyjadril slovenský informatik a popularizátor umelej inteligencie Martin Spano, mali by sme ju využiť ako náhradu politikov. Na rozdiel od politikov totiž nepotrebuje kradnúť pre seba a dokáže vykonávať správne rozhodnutia oveľa pragmatickejšie.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Európsky štát odštartoval jadrovú revolúciu. Urán pochovaný, prichádza lacná elektrina pre všetkých
Fyzika sa tam mení na nočnú moru. Slovák z Harvardu o exoplanétach, kde je možné naozaj všetko
Blíži sa Veľký kolaps vesmíru. Vedci obrátili naruby to, čo sme si doteraz mysleli o rozpínaní kozmu
Medicína nechápe: Vedci vytvorili funkčné ľudské srdce v prasati, vydržalo biť úctyhodný čas
Japonsko čelí obrovskej kritike. Púšťa sa do riskantnej ťažby surovín, ktorú ešte nikto nevyskúšal
NAJČÍTANEJŠIE ZO STARTITUP
ŠÚKL stiahol z trhu 2 populárne lieky: Varuje pred možnou kontamináciou, skontroluj svoju lekárničku
Splatiť hypotéku skôr, alebo radšej investovať? Expert ukázal, čo môže Slovákom ušetriť tisíce eur (ROZHOVOR)
Rodinný dom s pozemkom za 17 000 eur: Štát predáva nepotrebný majetok za rozprávkové ceny
KVÍZ Len 15 % Slovákov vie odpovedať na všetky otázky. Prever svoje znalosti zo všeobecného prehľadu o svete
Terapia, ktorá prepíše starnutie: Kľúčom k predĺženiu života je proteín známy ako „strážca dlhovekosti“
- 24 hod
- 48 hod
- 7 dní
-
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Rusi zúfalo zháňajú peniaze. Ázijskému štátu ponúkajú svoje najmodernejšie zbrane, má to háčik
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- Európsky štát odštartoval jadrovú revolúciu. Urán pochovaný, prichádza lacná elektrina pre všetkých
- Čína oživila zabudnutý technologický skvost Sovietov. Unikli zábery lietadla, aké svet nevidel roky
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Do Ameriky doletí za 90 minút. Prelomové lietadlo v prvých testoch všetkých prekvapilo
- Japonsko čelí obrovskej kritike. Púšťa sa do riskantnej ťažby surovín, ktorú ešte nikto nevyskúšal
- Čína oživila zabudnutý technologický skvost Sovietov. Unikli zábery lietadla, aké svet nevidel roky
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- Európa do neho investovala miliardy eur, teraz ho ľudia nechcú. Predaj energetického zariadenia prudko klesol
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- Celý život triedila plasty. Žena neverila vlastným očiam, keď pomocou AirTagu zistila, kde končia
- Lacný ako Fabia, výkonný ako Porsche. Známa značka spustila predaj auta s dojazdom 2 000 km
Slováci prepadli pri výbere auta novému trendu. Čísla hovoria za všetko, pozor však na riziká
AI pretransformuje spoločnosť, tvrdí odborník. Varuje pred kľúčovou chybou, ktorú robíme
Nepríjemná správa pre motoristov na Slovensku. Analytik predpovedá ceny palív, susedia sú na tom lepšie
Cukrovkári dostali nádej na život bez striekačiek. Vedci vyvinuli liečbu, ktorá donúti telo k tvorbe inzulínu
Mladí Slováci podľahli nebezpečnému trendu. Umelá inteligencia im nahrádza jednu z najdôležitejších vecí
NAJČÍTANEJŠIE ZO STARTITUP