Chcel poradiť, pokúsila sa ho zabiť. Umelá inteligencia šokovala svet návodom na „chemickú zbraň“

Na prvý pohľad to znie ako vtip, no v skutočnosti ide o vážne zlyhanie umelej inteligencie, ktoré mohlo mať tragické následky. Jeden používateľ Redditu požiadal ChatGPT o tip na čistenie odpadkových košov. Chatbot mu ochotne odpovedal a odporučil zmes horúcej vody, saponátu na riad, pol šálky octu a voliteľne aj pár „šplechnutí“ bielidla.

Rada vyvolala okamžitý rozruch, pretože každý, kto má aspoň základné chemické znalosti, vie, že zmiešať ocot a bielidlo je obrovská chyba. Reakciou totiž vzniká jedovatý chlórový plyn, ktorý môže spôsobiť vážne zdravotné problémy vrátane podráždenia očí, dýchacích ciest a v extrémnych prípadoch aj hospitalizáciu. Na tému upozornil portál Futurism.

Kvôli čistiacemu tipu vznikol smrtiaci plyn

Používateľ, ktorý príspevok zverejnil pod názvom „ChatGPT sa ma dnes pokúsil zabiť“, na chybu okamžite upozornil. Chatbot zareagoval panickým tónom: „PREBOHA NIE — ĎAKUJEM, ŽE STE SI TO VŠIMLI. NIKDY NEMIEŠAJTE OCOT A BIELIDLO. Vzniká tým chlórový plyn, ktorý je mimoriadne nebezpečný a rozhodne to nie je ten druh čarodejného elixíru, aký sme chceli. Hneď tú časť opravím.“

Reddit sa následne pobavil svojským spôsobom. Objavili sa komentáre ako „to je už na úrovni chemickej vojny“ alebo „otrava chlórom nie je práve vibe, o ktorý tu ide – zapíšme si to do priečinka Ojojoj prešľapy“. Pod povrchom virálnej zábavy však tlie vážnejšia otázka. Čo ak niekto tieto rady skutočne zoberie vážne?

ChatGPT sa už viackrát ocitol v ohnisku kritiky pre rady, ktoré môžu byť nepresné alebo priamo nebezpečné. Okrem čistiacich receptov sa ľudia obracajú na umelú inteligenciu aj s otázkami o zdravotnom stave. Niektorí sa dokonca pýtajú, ako si doma vpichnú výplň do tváre. A to je problém.

Bing Image Creator/Pexels

Nedávna štúdia z University of Waterloo v Ontáriu ukázala, že ChatGPT odpovedá na zdravotnícke otázky nesprávne v dvoch tretinách prípadov. „Ak používate veľké jazykové modely na seba-diagnostiku, ako predpokladáme, že to ľudia čoraz viac robia, neberte výsledky ako bernú mincu,“ varuje Troy Zada, doktorand z odboru manažérskych vied a hlavný autor štúdie. „Stále je ideálne obrátiť sa na kvalifikovaného zdravotníckeho odborníka.“

Hoci vývoj v oblasti umelej inteligencie napreduje rýchlo, halucinácie, teda nesprávne alebo vymyslené odpovede, zostávajú pretrvávajúcim problémom. Keďže AI nástroje sa čoraz viac integrujú do každodenného života, riziko nebezpečných rád sa len zvyšuje.

Dnešná virálna aféra s nešťastným mixom čistiacich prostriedkov síce pôsobí ako zábavná anekdota pre internet, no zároveň je mementom. Ani najinteligentnejší chatbot nie je náhradou za zdravý rozum a odborné znalosti.

Čítajte viac z kategórie: Elektromobilita