Problémy s diskrimináciou sú v USA pomerne časté, a preto sa v krajine neberú na ľahkú váhu. Najnovšie týmto obvineniam čelí aj spoločnosť Apple, ktorá v spolupráci s investičnou bankou Goldman Sachs ponúka karty s limitmi, o ktorých výške rozhoduje umelá inteligencia, informuje portál CNBc.

Týmto prípadom sa už má zaujímať aj Oddelenie finančných služieb v New Yorku. Údajná diskriminácia ženského pohlavia pri udeľovaní limitov karty Apple Card sa dostala do povedomia po tom, čo na tento problém upozornil pomocou sociálnych sietí David Heinmeier Hansson, tvorca programovacieho jazyku Ruby a zakladateľ spoločnosti Basecamp. Podľa jeho vyjadrení mu algoritmy udelili až 20-krát vyšší limit na karte ako jeho žena. Podotkol však, že všetky daňové priznania podávajú spoločne, rovnako spolu narábajú aj so všetkými financiami.

Problém sa dostal okamžite do povedomia verejnosti a reagoval naň aj spoluzakladateľ Apple, Steve Wozniak. Aj on priznal, že jeho limit na karte je 10-krát vyšší ako u jeho ženy a rovnako majú spoločné bankové či kreditné účty.

Problémom má byť algoritmus

Banka sa bráni tým, že celý proces určovania limitov karty pre jednotlivých zákazníkov prebieha skrz algoritmy riadené umelou inteligenciou, píše portál Bloomberg. Tento algoritmus sa však pozerá na zákazníkov ako na jednotlivcov a údajne neberie do úvahy rodinné či dokonca rodové vlastnosti zákazníkov. V minulosti však už musel tento algoritmus prejsť korekciou, pretože vývojári si všimli, že po istej dobe začal vykazovať zaujatosť voči určitým skupinám ľudí.

Apple

Podobne sa správal aj algoritmus zdravotníckej spoločnosti UnitedHealth Group, ktorý mal podľa štúdie uprednostňovať bielych pacientov pred čiernymi. Aj keď si Hansson nemyslí, že niekde v týchto spoločnostiach sedí za počítačom človek, ktorý by cielene diskriminoval určitú skupinu ľudí a verí, že celý proces je riadený počítačom a umelou inteligenciou, stále je to problém, ktorý treba vyriešiť. V dobe, kedy umelá inteligencia pomaly rozhoduje o ľudských životoch, by sme mali vedieť, prečo robí dané rozhodnutia.