ChatGPT odporučil mužovi kurióznu náhradu soli. Po troch mesiacoch skončil na psychiatrii

Umelá inteligencia už dnes dokáže všeličo. Aj divy. V snahe zlepšiť svoje zdravie sa jeden muž rozhodol obmedziť príjem soli a nájsť jej náhradu. No jeho experiment sa skončil na pohotovosti práve po tom, čo sa riadil radami umelej inteligencie. Na prípad upozornil portál Science Alert.

Dobrý úmysel, zlé konanie

Príbeh sa začal nevinným plánom znížiť príjem sodíka, pričom namiesto konzultácie s lekárom sa rozhodol opýtať populárnej umelej inteligencie ChatGPT. Chatbot mu odporučil bromid sodný, ktorý si muž bez váhania objednal cez internet a začal pravidelne používať v jedle. Aj keď je pravda, že sodný bromid môže technicky nahradiť chlorid sodný, jeho bežné využitie je skôr pri dezinfekcii víriviek než pri ochucovaní hranoliek. To však AI akosi v odpovedi nespomenula.

Po troch mesiacoch sa muž objavil na urgentnom príjme so silnou paranojou a presvedčením, že ho sused chce otráviť. Lekári zaznamenali zhoršujúce sa halucinácie, a to sluchové aj zrakové, a po pokuse o útek bol pacient umiestnený na nedobrovoľné psychiatrické pozorovanie.

Po podaní liekov proti psychóze sa jeho stav upokojil natoľko, že dokázal opísať svoj „AI-inšpirovaný“ jedálniček. Krvné testy odhalili neobvykle vysokú hladinu bromidu – až 1 700 mg/l, pričom zdravé hodnoty bývajú pod 10 mg/l. Diagnóza teda bola jasná: bromizmus, teda otrava bromidom.

Nebezpečenstvo AI

Bromizmus bol začiatkom 20. storočia pomerne častý a podľa odhadov mohol stáť až za ôsmimi percentami psychiatrických hospitalizácií. Jeho výskyt však prudko klesol v 70. a 80. rokoch, keď sa lieky s obsahom bromidov prestali používať. V tomto prípade pacient podstúpil trojtýždňovú liečbu a nakoniec bol prepustený bez vážnych následkov.

Ondřej Mangl - Wikimedia Commons

Podľa autorov štúdie, publikovanej v časopise Annals of Internal Medicine: Clinical Cases, však nejde len o kuriózny návrat zabudnutej choroby, ale o varovanie pred slepým spoliehaním sa na AI pri otázkach, ktoré si vyžadujú odborné znalosti.

„Je dôležité si uvedomiť, že ChatGPT a iné AI systémy môžu generovať vedecké nepresnosti, nedokážu kriticky vyhodnotiť výsledky a môžu podporovať šírenie dezinformácií,“ uvádzajú lekári. „Je veľmi nepravdepodobné, že by medicínsky expert odporučil sodný bromid ako náhradu chloridu sodného,“ dodávajú.

Čítajte viac z kategórie: Novinky