Táto umelá inteligencia ukáže, ako ťa vníma na fotkách. Veľakrát je sexistická a rasistická
Predplatné PREMIUM na mesiac ZDARMA.
ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.
ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Slováci už nikdy nemusia strácať čas. Vyskúšali sme prelomovú AI, práca s PC nikdy nebola lepšia
RECENZIA Nič pre slabé povahy. Hrali sme brutálnu novinku, o ktorej monštrách sa ti bude aj snívať
Slováci, otvárajte peňaženky. Obľúbená banka hlási veľké zdražovanie (+nové ceny)
Stal sa zázrak. Legendárna sonda opäť prekvapivo komunikuje so Zemou
Aktuálne: Hymna každý deň a lavína reklám. Vláda práve zrušila RTVS
- 24 hod
- 48 hod
- 7 dní
-
- Amazon začal testovať nového humanoídneho robota. Toto všetko dokáže
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Netflix konečne ukázal svojho Terminátora. Od tohto napínavého sci-fi sa neodlepíš
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Revolučná misia NASA dostala zelenú. Záhadný objekt blízko Zeme preskúma vesmírne lietadlo
-
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Slováci zase naleteli. Slávnu appku okamžite vymaž, kradnú ti cez ňu heslá aj peniaze
- Revolučná misia NASA dostala zelenú. Záhadný objekt blízko Zeme preskúma vesmírne lietadlo
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Amazon začal testovať nového humanoídneho robota. Toto všetko dokáže
-
- Slováci zase naleteli. Slávnu appku okamžite vymaž, kradnú ti cez ňu heslá aj peniaze
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Okamžite si skontroluj účet. Známa aplikácia Slovákom strháva desiatky eur
- Revolučná misia NASA dostala zelenú. Záhadný objekt blízko Zeme preskúma vesmírne lietadlo
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
Europoslanci odobrili zníženie objemu obalov a ich recykláciu
Z Boeingu s 200 ľuďmi na palube sa dymilo, japonská aerolínia ho evakuovala
Už ich vidí úplne každý. Windows 11 pridal reklamy na najotravnejšie miesto (+ako ich vypneš)
Slovak stál za Bugatti Veyron aj Rolls-Royce. Neuveríš, ktorá automobilka si ho teraz uchmatla
Nezmeškaj to: Jednu z najlepších hier 2023 si teraz zahráš za pár eur
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené