Amazon vyvinul umelú inteligenciu pre výber nových zamestnancov. Museli ju vypnúť, pretože diskriminovala ženy

Umelá inteligencia označovaná aj ako AI sa v súčasnosti čoraz častejšie dostáva do popredia. Nájdeme ju predovšetkým v smartfónoch, no objavuje sa aj v stavebníctve, zdravotníctve či doprave. Nie vždy však umelá inteligencia funguje tak, ako má. Príkladom toho je aj najnovšia udalosť, ktorá zasiahla jeden z najstarších a najväčších internetových obchodov Amazon.

Amazon ako jedna z najväčších spoločností zamestnáva tisíce ľudí po celom svete. Je preto pochopiteľné, že výberový proces nových zamestnancov je viac než náročný a zdĺhavý. Spoločnosť sa tak rozhodla vyvinúť program, ktorý by im túto prácu uľahčil. V roku 2014 bol založený tím, ktorý pracoval na vývoji programu na automatizáciu výberu pracovníkov. Projekt bol však v roku 2017 pozastavený, nakoľko sa ukázalo, že umelá inteligencia nemusí vždy len uľahčiť prácu. V tomto prípade ju síce uľahčila, avšak priniesla jeden nepríjemný problém.

Zobraziť celú galériu (2)

TechENT/Twitter

Umelá inteligencia zapríčinila diskrimináciu žien

Hlavným cieľom bolo to, aby ste do databázy nahodili 100 životopisov a umelá inteligencia by z nich vybrala 5 najlepších. Problém bol v tom, že algoritmus pracoval na princípe dát starých 10 rokov a výsledok výberu nepotešil ženské pohlavie. Je známe, že v technologických firmách tvoria prevažnú väčšinu najmä muži. Platí to aj v prípade Amazonu a umelá inteligencia na základe zozbieraných údajov vyhodnotila, že muži sú vo firme žiadanejší. Následne tak uprednostňovala pri výbere práve mužské pohlavie. Po preukázaní týchto faktov sa inžinieri zodpovední za vývoj rozhodli kvôli diskriminácii žien projekt zastaviť.

Zobraziť celú galériu (2)

Diskriminácia patrí medzi najčastejší problém umelej inteligencie

Pred dvoma rokmi Amazon predstavil úplne novú AI platformu, na ktorej mimochodom pracovalo niekoľko tisíc zamestnancov. Nová služba s názvom Rekognition našla svoje uplatnenie aj pri policajných zložkách, kde mala taktiež uľahčiť prácu. Znova sa to však nepodarilo tak, ako sa pôvodne očakávalo. Umelá inteligencia skenovala a následne porovnávala tváre s tvárami v databáze hľadaných osôb, nakoľko to robila oveľa rýchlejšie než policajní pracovníci či klasický systém.

Prečítajte si tiež!
Apple či Amazon sa stali obeťou špionážneho útoku z Číny

Počas testovania prešla celkovo vyše 25 000 fotografií kriminálnikov. Z tohto počtu si nanešťastie 28 kriminálnikov pomýlila s 28 členmi amerického kongresu. Aby toho nebolo málo, väčšina z nich bola tmavšej pleti. Či došlo zasa k zlyhaniu umelej inteligencie, ktorá tentokrát zapríčinila podozrenie z rasovej diskriminácie nie je jasné. Spoločnosť Amazon sa bránila tvrdením, že pri systéme neboli použité odporúčané nastavenia, ktoré boli príčinou skreslených informácií.

Čítajte viac z kategórie: Novinky