Steve Wozniak a ďalší ľudia sa búria. Algoritmy Apple Card diskriminujú ženské pohlavie
Predplatné PREMIUM na mesiac ZDARMA.
Problémy s diskrimináciou sú v USA pomerne časté, a preto sa v krajine neberú na ľahkú váhu. Najnovšie týmto obvineniam čelí aj spoločnosť Apple, ktorá v spolupráci s investičnou bankou Goldman Sachs ponúka karty s limitmi, o ktorých výške rozhoduje umelá inteligencia, informuje portál CNBc.
Týmto prípadom sa už má zaujímať aj Oddelenie finančných služieb v New Yorku. Údajná diskriminácia ženského pohlavia pri udeľovaní limitov karty Apple Card sa dostala do povedomia po tom, čo na tento problém upozornil pomocou sociálnych sietí David Heinmeier Hansson, tvorca programovacieho jazyku Ruby a zakladateľ spoločnosti Basecamp. Podľa jeho vyjadrení mu algoritmy udelili až 20-krát vyšší limit na karte ako jeho žena. Podotkol však, že všetky daňové priznania podávajú spoločne, rovnako spolu narábajú aj so všetkými financiami.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Problém sa dostal okamžite do povedomia verejnosti a reagoval naň aj spoluzakladateľ Apple, Steve Wozniak. Aj on priznal, že jeho limit na karte je 10-krát vyšší ako u jeho ženy a rovnako majú spoločné bankové či kreditné účty.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Problémom má byť algoritmus
Banka sa bráni tým, že celý proces určovania limitov karty pre jednotlivých zákazníkov prebieha skrz algoritmy riadené umelou inteligenciou, píše portál Bloomberg. Tento algoritmus sa však pozerá na zákazníkov ako na jednotlivcov a údajne neberie do úvahy rodinné či dokonca rodové vlastnosti zákazníkov. V minulosti však už musel tento algoritmus prejsť korekciou, pretože vývojári si všimli, že po istej dobe začal vykazovať zaujatosť voči určitým skupinám ľudí.
Podobne sa správal aj algoritmus zdravotníckej spoločnosti UnitedHealth Group, ktorý mal podľa štúdie uprednostňovať bielych pacientov pred čiernymi. Aj keď si Hansson nemyslí, že niekde v týchto spoločnostiach sedí za počítačom človek, ktorý by cielene diskriminoval určitú skupinu ľudí a verí, že celý proces je riadený počítačom a umelou inteligenciou, stále je to problém, ktorý treba vyriešiť. V dobe, kedy umelá inteligencia pomaly rozhoduje o ľudských životoch, by sme mali vedieť, prečo robí dané rozhodnutia.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Museli sa zblázniť. Spustili predaj robotického psa s plameňometom, je smiešne lacný
Apple a Microsoft sa trasú. Ďalší gigant práve prekonal nemysliteľnú hranicu
Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
Vyrába pri teplote 40-násobne vyššej ako na Slnku. Intel zostrojil najpokročilejšiu mašinu na čipy
Niesol raketoplán a milióny ľudí. Legendárne lietadlo Boeingu končí, dostane brutálnu náhradu
- 24 hod
- 48 hod
- 7 dní
-
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Tvorcovia slovenského GTA pre FonTech: Cenu sme neprehnali, naša hra je svetový unikát
-
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
- Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
-
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
SAV je partnerom európskeho projektu zameraného na využitie umelej inteligencie
Home office využíva čoraz menej firiem, počet pracujúcich ľudí z domu klesol
Podpora elektromobility v Nemecku klesla
Musk dosiahol v Číne dohodu o regulačných pravidlách pre softvér FSD
Združenie ACEA upozorňuje na hroziaci nedostatok nabíjacích staníc v EÚ
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené