Problémy s diskrimináciou sú v USA pomerne časté, a preto sa v krajine neberú na ľahkú váhu. Najnovšie týmto obvineniam čelí aj spoločnosť Apple, ktorá v spolupráci s investičnou bankou Goldman Sachs ponúka karty s limitmi, o ktorých výške rozhoduje umelá inteligencia, informuje portál CNBc.
Týmto prípadom sa už má zaujímať aj Oddelenie finančných služieb v New Yorku. Údajná diskriminácia ženského pohlavia pri udeľovaní limitov karty Apple Card sa dostala do povedomia po tom, čo na tento problém upozornil pomocou sociálnych sietí David Heinmeier Hansson, tvorca programovacieho jazyku Ruby a zakladateľ spoločnosti Basecamp. Podľa jeho vyjadrení mu algoritmy udelili až 20-krát vyšší limit na karte ako jeho žena. Podotkol však, že všetky daňové priznania podávajú spoločne, rovnako spolu narábajú aj so všetkými financiami.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Problém sa dostal okamžite do povedomia verejnosti a reagoval naň aj spoluzakladateľ Apple, Steve Wozniak. Aj on priznal, že jeho limit na karte je 10-krát vyšší ako u jeho ženy a rovnako majú spoločné bankové či kreditné účty.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Problémom má byť algoritmus
Banka sa bráni tým, že celý proces určovania limitov karty pre jednotlivých zákazníkov prebieha skrz algoritmy riadené umelou inteligenciou, píše portál Bloomberg. Tento algoritmus sa však pozerá na zákazníkov ako na jednotlivcov a údajne neberie do úvahy rodinné či dokonca rodové vlastnosti zákazníkov. V minulosti však už musel tento algoritmus prejsť korekciou, pretože vývojári si všimli, že po istej dobe začal vykazovať zaujatosť voči určitým skupinám ľudí.

Podobne sa správal aj algoritmus zdravotníckej spoločnosti UnitedHealth Group, ktorý mal podľa štúdie uprednostňovať bielych pacientov pred čiernymi. Aj keď si Hansson nemyslí, že niekde v týchto spoločnostiach sedí za počítačom človek, ktorý by cielene diskriminoval určitú skupinu ľudí a verí, že celý proces je riadený počítačom a umelou inteligenciou, stále je to problém, ktorý treba vyriešiť. V dobe, kedy umelá inteligencia pomaly rozhoduje o ľudských životoch, by sme mali vedieť, prečo robí dané rozhodnutia.
Teraz čítajú

PRIPOMIENKA Nová Škoda Fabia odhaľuje detaily: Takéto motory a technológie dostane, bude ale priestrannejšia aj bezpečnejšia

Obrovský bezpečnostný pokrok. Podmorský kábel Google využili na detekciu zemetrasenia, pri testoch fungovali príkladne

Peugeot zmenil svoje logo. Symbolizuje zameranie sa na väčšiu eleganciu a prioritu elektrifikácie

ZAUJÍMAVÉ KVÍZ: Temná stránka technologických firiem - poznáš všetky tieto kontroverzné produkty Apple, Samsungu a ostatných?

Starlink internet čakajú veľké novinky: Väčšinu Zeme pokryjú signálom do konca 2021, rýchlosť sa zdvojnásobí
Články, ktoré hýbu svetom

Formula E odštartovala hrôzostrašne: Prvé preteky v Saudskej Arábii poznačil pokus o raketový útok

NESMIEŠ PREHLIADNUŤ Na hernej scéne bude v marci horúco. Toto sú skvelé hry na PC aj next-gen porty slávnych sérií, ktoré si zahráš

Projekt Slovákov ti zadarmo pomôže dostať sa k peniazom od štátu. Nechcú sa viac pozerať na chaos v štátnej pomoci

Svetu hrozí klimatická katastrofa. Na jej odvrátenie nám ostáva 10 mesiacov, varuje OSN
