Táto umelá inteligencia ukáže, ako ťa vníma na fotkách. Veľakrát je sexistická a rasistická
ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.
ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Toto by mali Slovákom rozdávať zadarmo. Našli sme najľahší spôsob, ako si predĺžiť život
24-tisíc hlasov expertov rozhodlo. Toto sú najlepšie seriály súčasnosti (+kde ich nájdeš)
Ukrajina ide rozpútať peklo pre Rusov: Nasadí nezastaviteľné zbrane s dlhým doletom
Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
Nový radar s AI zarazil vodičov. Nemeria však rýchlosť, dáva mastné pokuty za niečo úplne iné
NAJČÍTANEJŠIE ZO STARTITUP
Slováci prídu o 3 dni pracovného pokoja. Po kritike opozície a cirkvi je v hre náhrada za 6. január
Päť potravín, ktoré ničia tvoj mozog: Lekárka odhalila, čo nikdy neje, preto zostáva mladá a plná energie
Nespavosť devastuje telo aj myseľ, varujú odborníci. Vedci odhalili desivú pravdu o nedostatku spánku
Európska únia čelí rekordným dlhom: Nové dáta ukázali, kto sa ocitol v prvej desiatke najzadlženejších štátov (REBRÍČEK)
Mozgová hmla ťa oberá o schopnosť myslieť. Lekár odhalil štyri jednoduché riešenia
- 24 hod
- 48 hod
- 7 dní
-
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Ukrajina ide rozpútať peklo pre Rusov: Nasadí nezastaviteľné zbrane s dlhým doletom
-
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
- Prekvapivá krajina má obrovský záujem o slovenské zbrane. Štát rokuje o kúpe pokročilých systémov
-
- Padnutý strom v Amazónii nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté stáročia
- Prekvapivá krajina má obrovský záujem o slovenské zbrane. Štát rokuje o kúpe pokročilých systémov
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
Nenápadný faktor nás oberá o miliardy eur: Európska únia je pod tlakom extrémnych javov, ničia ekonomiku štátov
Slováci v tom majú jasno: Táto vec najviac znečisťuje ovzdušie v našej krajine
Americký gigant má na krku vážny problém. Na pôde východnej mocnosti porušil dôležitý zákon
Izolujú sa od sveta. Táto krajina svoj jadrový status zakotvila v zákone, Západ je v obavách
Klimatický šok: Fosílne palivá ich devastujú, verný spojenec Západu stojí pred nezvratnou skazou
NAJČÍTANEJŠIE ZO STARTITUP