Umelá inteligencia dnes preniká do čoraz väčšieho množstva oblastí verejného života. Od zdravotníctva cez bankovníctvo až po bezpečnostné zložky. Technológie, ktoré majú pomáhať polícii pri identifikácii páchateľov, sa však opakovane dostávajú pod ostrú kritiku.

Najnovší prípad z USA, na ktorý upozornil Tech Spot a tom´s Hardware, ukazuje, že slepá dôvera v algoritmy môže mať pre nevinných ľudí fatálne následky.

Päťdesiatročná Angela Lipps z amerického štátu Tennessee strávila za mrežami takmer pol roka po tom, čo ju softvér na rozpoznávanie tvárí nesprávne označil za podozrivú v prípade bankových podvodov. Babičku zatkli ozbrojení federálni maršali priamo pred očami detí, o ktoré sa v tom čase starala. Polícia totiž bola presvedčená, že ide o ženu, ktorá v Severnej Dakote vyberala z banky desiatky tisíc dolárov pomocou falošnej vojenskej identifikačnej karty.

Lipps však tvrdila, že v Severnej Dakote nikdy v živote nebola. Neskôr sa ukázalo, že v čase, keď mala podľa polície páchať podvody vo Fargo, bola viac než 1 900 kilometrov ďaleko od miesta zločinu. Konkrétne bola doma v Tennessee. Bankové záznamy potvrdili, že v tom období v miestnych obchodoch kupovala cigarety a vkladala šeky zo sociálneho zabezpečenia.

Napriek tomu ju americké úrady zatkli a obvinili zo štyroch skutkov neoprávneného použitia osobných identifikačných údajov a štyroch krádeží. Dôvodom bol jediný faktor: výsledok systému na rozpoznávanie tvárí.

„Neomylný“ softvér

Zásah federálnych maršalov prišiel v júli 2025. Ozbrojený tím Lipps zadržal v Tennessee a označil ju za „utečenca pred spravodlivosťou“ zo Severnej Dakoty. Podľa dostupných informácií polícia vo Fargo vyšetrovala sériu bankových podvodov z apríla a mája 2025. Na záznamoch z bezpečnostných kamier videli ženu, ktorá používala falošnú vojenskú identifikačnú kartu americkej armády a vyberala z bankových účtov veľké sumy peňazí.

Vyšetrovatelia následne použili softvér na rozpoznávanie tvárí, ktorý analyzoval zábery z kamier a porovnal ich s databázami fotografií. Algoritmus označil ako možnú zhodu práve Angelu Lipps. Jeden z detektívov potom porovnal jej vodičský preukaz z Tennessee a fotografie zo sociálnych sietí so zábermi podozrivej ženy.

„Dospel k záveru, že sa zhoduje na základe čŕt tváre, postavy a účesu,“ uvádzajú policajné záznamy.

Freepik

Takmer pol roka vo väzbe kvôli chybe algoritmu

Napriek slabým dôkazom sa prípad rozbehol naplno. Lipps skončila vo väzbe v Tennessee, kde strávila 108 dní bez možnosti kaucie, kým úrady pripravovali jej vydanie do Severnej Dakoty. Po prevoze ju tam držali ďalší čas, kým vyšetrovatelia preverovali dôkazy. Celkovo strávila za mrežami dohromady takmer šesť mesiacov.

Zlom prišiel až v momente, keď jej právnik Jay Greenwood požiadal o bankové záznamy. Tie jasne ukázali, že v čase údajných podvodov bola Lipps fyzicky v Tennessee a vykonávala bežné finančné operácie.

Obvinenia proti nej napokon zrušili, no až na Štedrý deň roku 2025. Po prepustení sa ocitla vo Fargo úplne sama.

„Keď ma pustili, nemala som peniaze, kabát ani spôsob, ako sa dostať domov,“ opísala neskôr situáciu.

Pomoc jej poskytli miestni obhajcovia, ktorí jej dali peniaze na hotel a jedlo počas Vianoc. Nezisková organizácia F5 Project jej následne pomohla zabezpečiť návrat do Tennessee.

Cena za chybu umelej inteligencie bola však obrovská. Keďže z väzenia nemohla platiť účty, prišla o dom, auto a dokonca aj o svojho psa. Podľa vlastných slov sa od polície z Farga nikdy nedočkala ani ospravedlnenia.

Traumatizujúci moment pre ňu zostáva najmä samotný zásah ozbrojených maršalov. V rozhovoroch pre americké médiá priznala, že obraz policajtov so samopalmi, ktorí ju zatýkali pred očami detí, má dodnes pred očami. „Stále mám strach, keď niekto nečakane zaklope na dvere,“ povedala.

Gemini

Problém, ktorý sa opakuje

Prípad Angely Lipps pritom nie je ojedinelý. Médiá upozorňujú, že ide minimálne o deviateho známeho Američana, ktorý bol nesprávne zatknutý na základe chybného rozpoznávania tváre.

Jedným z najznámejších príkladov je prípad Roberta Williamsa z Detroitu z roku 2020. Polícia ho zatkla po tom, čo jeho fotografia z vodičského preukazu vyšla ako pravdepodobná zhoda s mužom, ktorý v roku 2018 ukradol luxusné hodinky z obchodu. Počas výsluchu mu policajti otvorene povedali, že zatknutie je založené výlučne na výsledku systému na rozpoznávanie tvárí.

Williams bol nevinný. Mesto Detroit mu neskôr vyplatilo odškodné 300-tisíc dolárov a zároveň prijalo pravidlo, že zatknutie už nebude možné vykonať iba na základe výsledku takéhoto softvéru.

Odborníci dlhodobo upozorňujú, že technológia rozpoznávania tvárí nie je neomylná. Presnosť algoritmov môže klesať pri nekvalitných záberoch z kamier, slabom osvetlení alebo pri porovnávaní s neúplnými databázami. Kritici zároveň tvrdia, že niektoré systémy vykazujú vyššiu chybovosť pri určitých skupinách obyvateľstva.

V prípade Lipps navyše vyvoláva otázky aj samotný postup polície. Podľa dostupných informácií polícia v susednom meste West Fargo už skôr konštatovala, že samotné rozpoznávanie tváre nestačí na obvinenie. Napriek tomu vo Fargo vydali zatykač po tom, čo detektív subjektívne vyhodnotil, že žena na záberoch „vyzerá ako“ Lipps.

Starosta mesta Fargo Tim Mahoney v reakcii uviedol, že vydanie zatykača znamená, že súd našiel „pravdepodobný dôvod“. Dodal, že prípad je stále formálne otvorený, keďže obvinenia boli zrušené bez definitívneho uzavretia.

Chybné rozhodnutia umelej inteligencie sa pritom neobmedzujú iba na rozpoznávanie tvárí. V októbri minulého roka sa napríklad odohral incident na americkej strednej škole, kde polícia obkľúčila študenta po tom, čo systém vyhodnotil predmet v jeho ruke ako zbraň.

V skutočnosti išlo len o balíček chipsov Doritos.

Čítajte viac z kategórie: Novinky