ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.

ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Novinky

Harry Potter nekončí. Svet mágie sa rozrastie o ďalšie projekty

PRIPOMIENKA Keď štát zlyhá. Táto softvérová firma vyriešila hlavný problém objednávania na celoplošné testovanie

Supermasívne čierne diery zďaleka nie sú najväčšie. Existujú ešte gigantickejšie, zistili vedci

ZAUJÍMAVÉ Nehraj ich po tme. Toto je 10 hier, vďaka ktorým sa budeš báť zhasnúť aj svetlo
