Problémy s diskrimináciou sú v USA pomerne časté, a preto sa v krajine neberú na ľahkú váhu. Najnovšie týmto obvineniam čelí aj spoločnosť Apple, ktorá v spolupráci s investičnou bankou Goldman Sachs ponúka karty s limitmi, o ktorých výške rozhoduje umelá inteligencia, informuje portál CNBc.
Týmto prípadom sa už má zaujímať aj Oddelenie finančných služieb v New Yorku. Údajná diskriminácia ženského pohlavia pri udeľovaní limitov karty Apple Card sa dostala do povedomia po tom, čo na tento problém upozornil pomocou sociálnych sietí David Heinmeier Hansson, tvorca programovacieho jazyku Ruby a zakladateľ spoločnosti Basecamp. Podľa jeho vyjadrení mu algoritmy udelili až 20-krát vyšší limit na karte ako jeho žena. Podotkol však, že všetky daňové priznania podávajú spoločne, rovnako spolu narábajú aj so všetkými financiami.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Problém sa dostal okamžite do povedomia verejnosti a reagoval naň aj spoluzakladateľ Apple, Steve Wozniak. Aj on priznal, že jeho limit na karte je 10-krát vyšší ako u jeho ženy a rovnako majú spoločné bankové či kreditné účty.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Problémom má byť algoritmus
Banka sa bráni tým, že celý proces určovania limitov karty pre jednotlivých zákazníkov prebieha skrz algoritmy riadené umelou inteligenciou, píše portál Bloomberg. Tento algoritmus sa však pozerá na zákazníkov ako na jednotlivcov a údajne neberie do úvahy rodinné či dokonca rodové vlastnosti zákazníkov. V minulosti však už musel tento algoritmus prejsť korekciou, pretože vývojári si všimli, že po istej dobe začal vykazovať zaujatosť voči určitým skupinám ľudí.
Podobne sa správal aj algoritmus zdravotníckej spoločnosti UnitedHealth Group, ktorý mal podľa štúdie uprednostňovať bielych pacientov pred čiernymi. Aj keď si Hansson nemyslí, že niekde v týchto spoločnostiach sedí za počítačom človek, ktorý by cielene diskriminoval určitú skupinu ľudí a verí, že celý proces je riadený počítačom a umelou inteligenciou, stále je to problém, ktorý treba vyriešiť. V dobe, kedy umelá inteligencia pomaly rozhoduje o ľudských životoch, by sme mali vedieť, prečo robí dané rozhodnutia.