V nasledujúcom článku boli použité materiály TASR.

Chatbot Grok, vyvinutý spoločnosťou xAI miliardára Elona Muska, čelí vážnym otázkam o svojej spoľahlivosti po tom, čo počas eskalácie napätia medzi Izraelom a Iránom poskytoval nepresné a protichodné informácie. Podľa štúdie výskumného tímu Digital Forensic Research Lab (DFRLab), ktorý patrí pod renomovaný americký think-tank Atlantic Council, Grok preukázal značné slabiny v overovaní faktov počas prvej fázy konfliktu.

Vyšetrovací tím analyzoval viac ako 130-tisíc príspevkov na sociálnej sieti X v rôznych jazykoch a identifikoval zásadné zlyhania systému Grok. Tieto nedostatky sa prejavovali najmä v neschopnosti presne reagovať na virálne dezinformácie, vrátane tých, ktoré šírili falošné obrázky a videá vytvorené pomocou umelej inteligencie.

Jedným z najvypuklejších prípadov bolo video údajného zničenia letiska po iránskom útoku. Na otázky ohľadom tohto vizuálu Grok reagoval úplne odlišnými odpoveďami, v priebehu niekoľkých sekúnd tvrdil, že letisko bolo zničené, následne že nie, a dokonca uviedol rôzne miesta ako zdroj zásahu, od Bejrútu po Teherán. Raz pripísal útok húsíjskym povstalcom z Jemenu, inokedy neidentifikovaným ozbrojencom.

Náchylnosť na AI dezinformácie

Výskumníci z DFRLab upozorňujú, že Grok nedokázal správne identifikovať ani obsah vytvorený inou umelou inteligenciou, čo je kritický nedostatok v čase, keď sa vizuálne dezinformácie stávajú čoraz častejším nástrojom manipulácie. V štúdii sa tiež uvádza, že chatbot prejavoval nekonzistentné správanie aj pri iných citlivých témach – napríklad pri informovaní o konflikte medzi Indiou a Pakistanom, či pri protestoch proti migrácii v Los Angeles.

Ešte znepokojivejším faktom je, že pred niekoľkými týždňami bol Grok vyšetrovaný za vkladanie nepravdivých tvrdení o údajnej „genocíde bielych“ v Južnej Afrike do otázok, ktoré s danou témou nesúviseli. Tento naratív je známy ako krajne pravicová konšpiračná teória, čo vyvolalo obavy o politickú zaujatosť či kontamináciu zdrojov.

Unsplash

Problémom sú zdroje, nie Grok

Reakcia Elona Muska na výskum bola typicky rázna. Na svojej platforme X obvinil z problémov chatbota liberálnu organizáciu Media Matters, z ktorej údajne Grok čerpal. „Hanbi sa Grok. Tvoje zdroje sú hrozné,“ napísal Musk. Neuviedol však, ako bude xAI čeliť problémom s kvalitou dát či ich validáciou.

Nástup AI chatbotov do oblasti overovania faktov je trend, ktorým sa technologické platformy snažia nahradiť či doplniť tradičný ľudský dohľad. Ako však ukazuje štúdia DFRLab, v krízových a dynamicky sa meniacich situáciách, kde je presnosť informácií kľúčová, môžu tieto nástroje viac škodiť než pomáhať. Dôsledky ich zlyhaní môžu byť vážne, od šírenia paniky až po podporu propagandy.