ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.

Sleduj Fontech aj na sociálnych sieťach!
FacebookInstagramYouTube

Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.

Učí sa od ľudí

Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.

ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.

Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.