Táto umelá inteligencia ukáže, ako ťa vníma na fotkách. Veľakrát je sexistická a rasistická
ImageNet Roulette je umelá inteligencia využívajúca neurónovú sieť, ktorá klasifikuje ľudí podľa nahraných fotografií. Jej výsledky však vedia byť aj dosť urážlivé a rasistické, píše IFL Science.
Na internete sa v posledných dňoch objavili príspevky ľudí, ktorí si nahrali svoje fotografie na webovú aplikáciu ImageNet Roulette, ktorá využíva umelú inteligenciu. Tá obrázok analyzuje a daného človeka klasifikuje podľa tváre do kategórií, ktorých je vyše 2500. Nie vždy sú však jej výsledky príjemné a lichotivé, a bola tak kritizovaná za použitie rasistických, sexistických a celkovo nepríjemných značiek na klasifikáciu ľudí, ktorí ju použili.
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_) September 16, 2019
Učí sa od ľudí
Ide o projekt vytvorený umelcom Trevorom Paglenom a spoluzakladateľkou Inštitútu umelej inteligencie na univerzite NYU, Kate Crawford. Využíva algoritmus zo súboru ImageNet, čo je jedna z najväčších databáz určených na výskum softvéru pre vizuálne rozpoznávanie objektov. Trénovaná bola na ľudoch z programu Mechanical Turk od Amazonu, ktorí potom priraďovali spomínané značky k obrovskému množstvu obrázkov z databázy, píše BBC.
ImageNet Roulette bude tiež súčasťou fotografickej výstavy Training Humans v Miláne, kde chcú autori projektu zdôrazniť práve rôzne druhy zaujatosti ľudí ktoré sa do technológií šíria. „Chceme objasniť, čo sa stane, keď budú podobné systémy trénované na problematických údajoch. ImageNet Roulette poskytuje spôsob, ako vidieť, ako takto trénovaná umelá inteligencia klasifikuje ľudí, a poukazuje na problémy ktoré pri tomto procese môžu nastať.“, uvádzajú Paglen a Crawford na oficiálnej stránke projektu, kde si rozpoznávanie môžeš vyskúšať aj ty.
The whole internet loves Imagenet AI, an image classifier that makes quirky predictions! *5 seconds later* We regret to inform you that the AI is racist pic.twitter.com/bWFKddlePG
— Eric (@khale_) September 16, 2019
Podobným príkladom je aj chatbot Tay od Microsoftu z roku 2016 využívajúci umelú inteligenciu, ktorý sa za jediný deň strávený na Twitteri stal rasistickým a nepríjemným. Technológia teda zmení svoje správanie často tak, že sa to naučí od ľudí.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Vedci ostali šokovaní: ChatGPT vyriešil 2000-ročný matematický problém kurióznym spôsobom
Chcú ich vyrábať, no má to háčik. Šéf Kia odhalil, prečo sa automobilkám neoplatia lacné elektromobily
Môže zasiahnuť ciele na celom svete. Európsky štát vyvíja jadrovú raketu s doletom 10 000 km
Obyvatelia bohatého európskeho štátu v tom majú jasno. Kvôli tomuto dôvodu váhajú s kúpou elektromobilu
Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
NAJČÍTANEJŠIE ZO STARTITUP
Rebríček najhorších SUV na slovenskom trhu: Tieto autá technickou kontrolou len tak neprejdú, tvrdia odborníci
Stála na prahu smrti, dnes má telo dvadsiatničky: 53-ročná lekárka odhalila rutinu, ktorá ju omladila o tri desaťročia
Tajný dôchodkový bonus: Ako získať stovky eur navyše pri odchode do penzie (NÁVOD)
Vytvorila biznis, ktorý jej generuje 930-tisíc eur ročne: „Nemala som víkendy ani spoločenský život, no stálo to za to“
Zabraňuje návalom hladu a brzdí priberanie: Biohacking trik Kristen Bell zaujal odborníkov na výživu
- 24 hod
- 48 hod
- 7 dní
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Slovákom leží v zuboch dodnes. Toto je príbeh filmu, kvôli ktorému Habera zažaloval Tarantinovho žiaka
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
- Ponúka silný motor za dostupné ceny. Volkswagen spustil na Slovensku predpredaj nového SUV
-
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
- Hovoria o najlepšom filme posledných rokov. Oscarové prekvapenie je konečne online
- Ponúka silný motor za dostupné ceny. Volkswagen spustil na Slovensku predpredaj nového SUV
- Stroj zo studenej vojny prerobili na toto. Svetová veľmoc uchvátila svet, môže mať zákerné úmysly
- Česi pochopili krízu v Európe. Začali s modernizáciou, ktorá im zaručí energetickú nezávislosť
-
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
- Zrodila sa technológia, ktorá berie dych. Lietadlo obalené bublinou môže znamenať revolúciu v histórii letectva
Kybernetická éra sa ukázala v Košiciach. SlovakiaTech 2025 láme všetky očakávania
Realita o elektroautách prekvapila celé Slovensko. Len malá časť ľudí má reálnu skúsenosť za volantom
Nečakaná krajina zbrojí na úroveň veľmocí. Od Izraelu kúpila zbrane za vyše 2 miliardy eur
Nenápadný faktor nás oberá o miliardy eur: Európska únia je pod tlakom extrémnych javov, ničia ekonomiku štátov
Slováci v tom majú jasno: Táto vec najviac znečisťuje ovzdušie v našej krajine
NAJČÍTANEJŠIE ZO STARTITUP