Táto umelá inteligencia ukáže, ako ťa vníma na fotkách. Veľakrát je sexistická a rasistická
ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.
ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Koniec drahého odsoľovania: Z morskej vody vedci získajú čistú vodu aj drahú surovinu
Môže vybuchnúť každú chvíľu. Prebúdza sa gigantická sopka, ktorá v minulosti spôsobila katastrofu
Stellantis bankrotuje, Volkswagen zatvára závod. Globálni výrobcovia majú problém na dôležitom trhu
Ušetria ti kopu práce každý deň. TOP 10 rozšírení do prehliadača, ktoré absolútne potrebuješ
Slováci tajne dovážajú smartfóny z Ázie za stovky eur lacnejšie. Prečo sa im to oplatí a ako škodia operátorom?
NAJČÍTANEJŠIE ZO STARTITUP
Rusko pripravuje masívny útok, ktorý má definitívne ukončiť vojnu na Ukrajine. Analytici varujú pred následkami
Elitný architekt Prekop: Slovensko trpí komplexom druhej kategórie a architektúra na to dopláca
Osudových 33 sekúnd: Čierna skrinka odhalila posledné momenty letu Air India. Príčina pádu je odhalená
Žena skončila na pokraji zlyhania pečene po užívaní obľúbeného bylinného doplnku. Vedci dvíhajú varovný prst
TOP 10 krajín, ktoré prevalcovali ekonomický rast svetových veľmocí. Skryto prepisujú mapu globálneho bohatstva
- 24 hod
- 48 hod
- 7 dní
-
- Stellantis bankrotuje, Volkswagen zatvára závod. Globálni výrobcovia majú problém na dôležitom trhu
- Slováci tajne dovážajú smartfóny z Ázie za stovky eur lacnejšie. Prečo sa im to oplatí a ako škodia operátorom?
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
- V aute ho majú desaťtisíce Slovákov. Ak zneužiješ obľúbené zariadenie, riskuješ masívnu pokutu
-
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- Stellantis bankrotuje, Volkswagen zatvára závod. Globálni výrobcovia majú problém na dôležitom trhu
- Záhadný kameň v Egypte nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté 5000 rokov
- Sci-fi „kladivo“ je realitou. Nová zbraň Západu desí nepriateľov, nemajú proti nej šancu
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- V spoľahlivosti nemajú konkurenciu. Týchto 5+1 automobiliek má najlepšie motory (PREHĽAD)
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
Trump mení stratégiu: Zbrane pre Ukrajinu pôjdu cez NATO, voči Rusku chystá zásadné vyhlásenie
Takto sa zneužíva home office. Odborári odhalili praktiky, ktoré sa ťa môžu týkať
Očkovanie neodmietali nevzdelaní. Nová štúdia odhalila iný faktor
Tržby TSMC prekonali očakávania. Čipy pre AI lámu rekordy
Slovensko má najdrahšie palivá v regióne. Analytici majú vysvetlenie
NAJČÍTANEJŠIE ZO STARTITUP