AI v zdravotníctve zlyháva. Lekári varujú pred jej následkami, toto hrozí

V nasledujúcom článku boli použité materiály TASR.

Systémy umelej inteligencie (AI) navrhnuté na predpovedanie pravdepodobnosti úmrtia hospitalizovaných pacientov čelia závažným problémom. Podľa najnovšej štúdie publikovanej v žurnále Communications Medicinečasopisu Nature dokážu tieto modely len s obmedzenou presnosťou odhaliť zhoršujúci sa zdravotný stav pacienta. TASR o tom informuje na základe správy portálu Axios.

Modely strojového učenia, ktoré sa využívajú na predpovedanie zhoršenia stavu pacientov, môžu byť obzvlášť užitočné na jednotkách intenzívnej starostlivosti (JIS). Ich úlohou je včas upozorniť lekárov na prudké zhoršenie stavu pacienta alebo abnormálne hodnoty životných funkcií.

Vedci však zistili, že tieto systémy majú vážne nedostatky. Keď im poskytli verejne dostupné údaje o zdravotnom stave pacientov – najmä tých na JIS alebo s rakovinou – modely zlyhali pri identifikácii až 66 % zdravotných ťažkostí, ktoré by mohli viesť k úmrtiu hospitalizovaného pacienta.

Testovanie odhalilo medzery v predpovediach

Odborníci v rámci štúdie vytvorili testovacie scenáre, v ktorých simulovali zmeny zdravotných ukazovateľov pacientov oproti pôvodným údajom. Výsledky ukázali, že systémy AI, trénované výlučne na existujúcich dátach, často nerozpoznali kritické situácie a nedokázali spoľahlivo predpovedať blížiace sa zhoršenie stavu pacienta.

Podľa autorky štúdie, profesorky informatiky na polytechnickej univerzite Virginia Tech v americkom štáte Virgínia, Tan-feng Jao, je kľúčové pochopiť, v akých podmienkach môžu tieto modely fungovať. „Od modelov chceme, aby robili závažné rozhodnutia, a preto musíme zistiť, kde a prečo zlyhávajú,“ uviedla Jao.

Freepik

Tréning AI nestačí, potrebná je medicínska expertíza

Jedným z hlavných problémov je, že súčasné systémy AI sa trénujú len na existujúcich údajoch o pacientoch. To podľa Jao nestačí. „Je nevyhnutné, aby sa do týchto technológií premietli aj lekárske poznatky. Iba tak môžeme zaručiť, že budú schopné presne identifikovať život ohrozujúce stavy,“ vysvetlila.

Experti preto navrhujú, aby sa modely umelých inteligencií nielen trénovali na väčších a rozmanitejších dátových súboroch, ale aby sa zároveň do ich vývoja zapojili lekári a odborníci na zdravotnú starostlivosť.

Závery štúdie upozorňujú na to, že hoci systémy umelej inteligencie majú v medicíne obrovský potenciál, nemali by sa považovať za neomylné nástroje. Skôr by mali slúžiť ako pomocníci lekárov, ktorí by ich využívali na rýchlejšiu analýzu údajov a identifikáciu potenciálnych rizík.