V tomto texte boli použité materiály TASR.

Konverzačné chatboty postavené na umelej inteligencii sa v posledných mesiacoch čoraz častejšie stávajú prvým miestom, kam sa používatelia obracajú pri rýchlom overovaní informácií. Práve v krízových situáciách sa však ukazuje ich slabina. Najnovší prípad z Austrálie ukazuje, že ani pokročilé modely integrované priamo do sociálnych sietí nemusia poskytovať spoľahlivé odpovede a môžu, naopak, prispievať k šíreniu dezinformácií.

Po teroristickom útoku na pláži Bondi v austrálskom Sydney sa do centra pozornosti dostal chatbot Grok, ktorý je integrovaný do sociálnej siete X. Podľa prehľadu špecializovaného portálu Gizmodo, na ktorý upozornil denník Le Monde, Grok v priebehu udalostí opakovane zavádzal a šíril nepravdivé informácie.

Keď AI zlyhá pri overovaní faktov

Používatelia siete X si zvykli obracať sa na Grok s otázkami počas aktuálnych udalostí, často v snahe rýchlo pochopiť, čo sa deje, alebo si overiť pravosť kolujúcich videí. Práve analýza obrazových záznamov z útoku však ukázala limity systému. Chatbot v niekoľkých prípadoch poskytol nesprávne a zavádzajúce odpovede, ktoré nemali oporu v realite.

Jedno z videí, ktoré v skutočnosti zachytávalo prestrelku medzi údajnými páchateľmi a políciou, Grok najskôr opísal ako zábery cyklónu v Austrálii. V inom prípade scénu, kde náhodný okoloidúci odzbrojuje jedného zo strelcov, označil za „staré virálne video muža, ktorý šplhá na palmu“.

Problém nie je nový

Nejde pritom o prvý prípad, keď bol Grok kritizovaný za šírenie nepravdivých alebo zavádzajúcich informácií. Umelá inteligencia prepojená so sieťou X sa už v minulosti ocitla pod paľbou kritiky pre dezinformácie týkajúce sa atentátov z 13. novembra 2015 vo Francúzsku. Okrem toho jej bolo vyčítané aj preberanie a zosilňovanie teórií, ktoré popierajú holokaust.

Tieto prípady poukazujú na širší problém generatívnych modelov, ktoré sa učia v reálnom čase z obsahu publikovaného používateľmi. Ako pripomenul Le Monde, Grok čerpá práve z príspevkov na sieti X, kde sa po prevzatí platformy americkým miliardárom Elonom Muskom výrazne uvoľnili pravidlá moderovania obsahu. To znamená, že medzi tréningovými dátami sa môžu nachádzať neoverené, zavádzajúce či priamo nepravdivé informácie.