Steve Wozniak a ďalší ľudia sa búria. Algoritmy Apple Card diskriminujú ženské pohlavie
Problémy s diskrimináciou sú v USA pomerne časté, a preto sa v krajine neberú na ľahkú váhu. Najnovšie týmto obvineniam čelí aj spoločnosť Apple, ktorá v spolupráci s investičnou bankou Goldman Sachs ponúka karty s limitmi, o ktorých výške rozhoduje umelá inteligencia, informuje portál CNBc.
Týmto prípadom sa už má zaujímať aj Oddelenie finančných služieb v New Yorku. Údajná diskriminácia ženského pohlavia pri udeľovaní limitov karty Apple Card sa dostala do povedomia po tom, čo na tento problém upozornil pomocou sociálnych sietí David Heinmeier Hansson, tvorca programovacieho jazyku Ruby a zakladateľ spoločnosti Basecamp. Podľa jeho vyjadrení mu algoritmy udelili až 20-krát vyšší limit na karte ako jeho žena. Podotkol však, že všetky daňové priznania podávajú spoločne, rovnako spolu narábajú aj so všetkými financiami.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Problém sa dostal okamžite do povedomia verejnosti a reagoval naň aj spoluzakladateľ Apple, Steve Wozniak. Aj on priznal, že jeho limit na karte je 10-krát vyšší ako u jeho ženy a rovnako majú spoločné bankové či kreditné účty.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Problémom má byť algoritmus
Banka sa bráni tým, že celý proces určovania limitov karty pre jednotlivých zákazníkov prebieha skrz algoritmy riadené umelou inteligenciou, píše portál Bloomberg. Tento algoritmus sa však pozerá na zákazníkov ako na jednotlivcov a údajne neberie do úvahy rodinné či dokonca rodové vlastnosti zákazníkov. V minulosti však už musel tento algoritmus prejsť korekciou, pretože vývojári si všimli, že po istej dobe začal vykazovať zaujatosť voči určitým skupinám ľudí.
Podobne sa správal aj algoritmus zdravotníckej spoločnosti UnitedHealth Group, ktorý mal podľa štúdie uprednostňovať bielych pacientov pred čiernymi. Aj keď si Hansson nemyslí, že niekde v týchto spoločnostiach sedí za počítačom človek, ktorý by cielene diskriminoval určitú skupinu ľudí a verí, že celý proces je riadený počítačom a umelou inteligenciou, stále je to problém, ktorý treba vyriešiť. V dobe, kedy umelá inteligencia pomaly rozhoduje o ľudských životoch, by sme mali vedieť, prečo robí dané rozhodnutia.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Považovali ho za "neviditeľné", Sovieti ho aj tak zostrelili. Legendárne špionážne lietadlo je späť v službe
Európsky unikát? Futbalový štadión v Bratislave ukázal eko-inováciu, stojí za ňou slovenský startup
Apple konečne naplní víziu Steve Jobsa. Na iPhone príde historická novinka
Otestovali prototyp lietadla budúcnosti. Kľúčový test potvrdil jeho najväčšiu výhodu
Bezos dýcha Muskovi na krk. Blíži sa prvý let rakety, ktorá chce pochovať Starship
- 24 hod
- 48 hod
- 7 dní
-
- Diváci nemajú záujem, Netflix je zúfalý. Ich najdrahšie sci-fi je absolútnym prepadákom
- Nič také tu ešte nebolo. Prvá automobilka má riešenie najväčšieho problému elektromobilov
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- Legendárna akčná komédia je späť, nešetrí humorom ani akciou (trailer)
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
-
- Diváci nemajú záujem, Netflix je zúfalý. Ich najdrahšie sci-fi je absolútnym prepadákom
- Nič také tu ešte nebolo. Prvá automobilka má riešenie najväčšieho problému elektromobilov
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- Legendárna akčná komédia je späť, nešetrí humorom ani akciou (trailer)
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
-
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
- Slováci už na spaľovák ani nepozrú. Prichádza elektromobil pod 10 000 € s obrovským dojazdom
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- Ľudia prosia, aby to nerobili. Prvé európske mesto zavádza „bič” na elektrické bicykle
- Parádny úlovok Netflixu. Do ponuky zaradí jeden z najlepších filmov minulého roka
Európa by sa mala inšpirovať. Prvý krát v históriitáto krajina reštartuje jadrovú elektráreň
Najdrahší benzín spomedzi okolitých krajín EÚ má práve Slovensko
Elektrické nákladiaky Tesla môžu byť vyrábané v Európe, firma rokuje s touto krajinou
Žije. Japonská Sonda prekvapivo zvládla lunárnu noc
Doteraz nikde nebol dostupný. Najlepšieho Spider-Mana si v novom filme pozrieš úplne zadarmo
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené