Táto umelá inteligencia ukáže, ako ťa vníma na fotkách. Veľakrát je sexistická a rasistická
ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.
ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Veľká sieť čerpacích staníc na Slovensku končí. Toto bude náhrada
REKORD České Call of Duty sa utrhlo z reťaze. Takýto úspech nikto nečakal
Nové dôkazy: Na Marse mohol byť život. Nedávna misia odhalila prekvapivú vec
Mal zachrániť Zem a ľudstvo. Zakázali najlepší vynález za roky
Jedna z najväčších záhad vedy: Už tušíme, kam sa „vyparilo” 50 % vesmíru
- 24 hod
- 48 hod
- 7 dní
-
- Od týchto noviniek sa Slováci neodlepia. Netflix a ďalší ti v máji vyrazia dych
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Pohltí ťa a nepustí von. Hviezdna novinka Netflixu prichádza s prvou ukážkou
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Zaklínač je mŕtvy. Netflix ruší všetky projekty, niektoré z nich mali byť seriálové klenoty
-
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
- České Call of Duty sa utrhlo z reťaze. Takýto úspech nikto nečakal
- Od týchto noviniek sa Slováci neodlepia. Netflix a ďalší ti v máji vyrazia dych
- Má 1900 koní a prekoná aj monopost F1. Slávna talianska automobilka začala predávať brutálny elektromobil
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
Známa továreň na hoaxy končí. Po 2 rokoch porušovania pravidiel mu zrušili kanál
Vedci prinášajú viacero prelomových objavov, týkajú sa žilnatiny listov aj Alzheimera
Vo vlakoch bude o niečo bezpečnejšie. ZSSK spustila nový projekt
iPhone už nie je tak populárny. Apple zaznamenal prepad predajov, chcú to zmeniť
O hlasovací preukaz v eurovoľbách možno požiadať aj cez aplikáciu Voľby.Digital
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené