Obrovská fraška Muskovej AI. O teroristickom útoku v Sydney používateľom surovo klamala
V tomto texte boli použité materiály TASR.
Dostaň Fontech do svojich Google odporúčaní
Pridať ako preferovaný zdroj Fontech, odkaz sa otvorí v novom okneKonverzačné chatboty postavené na umelej inteligencii sa v posledných mesiacoch čoraz častejšie stávajú prvým miestom, kam sa používatelia obracajú pri rýchlom overovaní informácií. Práve v krízových situáciách sa však ukazuje ich slabina. Najnovší prípad z Austrálie ukazuje, že ani pokročilé modely integrované priamo do sociálnych sietí nemusia poskytovať spoľahlivé odpovede a môžu, naopak, prispievať k šíreniu dezinformácií.
Po teroristickom útoku na pláži Bondi v austrálskom Sydney sa do centra pozornosti dostal chatbot Grok, ktorý je integrovaný do sociálnej siete X. Podľa prehľadu špecializovaného portálu Gizmodo, na ktorý upozornil denník Le Monde, Grok v priebehu udalostí opakovane zavádzal a šíril nepravdivé informácie.
Keď AI zlyhá pri overovaní faktov
Používatelia siete X si zvykli obracať sa na Grok s otázkami počas aktuálnych udalostí, často v snahe rýchlo pochopiť, čo sa deje, alebo si overiť pravosť kolujúcich videí. Práve analýza obrazových záznamov z útoku však ukázala limity systému. Chatbot v niekoľkých prípadoch poskytol nesprávne a zavádzajúce odpovede, ktoré nemali oporu v realite.
Jedno z videí, ktoré v skutočnosti zachytávalo prestrelku medzi údajnými páchateľmi a políciou, Grok najskôr opísal ako zábery cyklónu v Austrálii. V inom prípade scénu, kde náhodný okoloidúci odzbrojuje jedného zo strelcov, označil za „staré virálne video muža, ktorý šplhá na palmu“.
Problém nie je nový
Nejde pritom o prvý prípad, keď bol Grok kritizovaný za šírenie nepravdivých alebo zavádzajúcich informácií. Umelá inteligencia prepojená so sieťou X sa už v minulosti ocitla pod paľbou kritiky pre dezinformácie týkajúce sa atentátov z 13. novembra 2015 vo Francúzsku. Okrem toho jej bolo vyčítané aj preberanie a zosilňovanie teórií, ktoré popierajú holokaust.
Tieto prípady poukazujú na širší problém generatívnych modelov, ktoré sa učia v reálnom čase z obsahu publikovaného používateľmi. Ako pripomenul Le Monde, Grok čerpá práve z príspevkov na sieti X, kde sa po prevzatí platformy americkým miliardárom Elonom Muskom výrazne uvoľnili pravidlá moderovania obsahu. To znamená, že medzi tréningovými dátami sa môžu nachádzať neoverené, zavádzajúce či priamo nepravdivé informácie.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

AI pomohla vedcom vylepšiť mozgový implantát. Nevidiaci muž vďaka nemu zazrel záblesky svetla

Slováci môžu získať iPhone za pár drobných. Lákavá ponuka operátora má však podmienku

Vedci zistili, čo robí mozog pred vyslovením slova. Objav dáva nádej ľuďom, ktorí nemôžu hovoriť

Spielberg prekvapuje. Chystá film, aký ešte nikdy nenatočil, môže vzniknúť blízko Slovenska

Vyskúšal som holiaci strojček, ktorý sa sám čistí. Najviac ma však dostala jedna funkcia
NAJČÍTANEJŠIE ZO STARTITUP

Koniec po 60 rokoch: Obľúbená reštaurácia, kam Slováci chodili na veľké rezne pod 10 eur, musela zatvoriť
PREMIUMPeter Lackovič otvoril v Trnave novú ázijskú reštauráciu: „Stálo nás to približne 250-tisíc eur“ (ROZHOVOR)

Poplach u severného suseda Slovenska. V Poľsku pravdepodobne dopadla ruská raketa, minister hovorí o provokácii

Tieto tri autá strácajú na hodnote najmenej: Elektromobil prekvapil a v bazároch drží krok s obľúbenou Škodovkou

TEST Slováci často túžia po autách, ktoré vôbec nevyužijú. 6 otázok ti ukáže, aké skutočne potrebuješ
- 24 hod
- 48 hod
- 7 dní
-
- POTVRDENÉ: Veľká streamovacia služba na Slovensku končí. Stovky filmov a seriálov získa konkurencia
- Najväčší film Christophera Nolona dorazil online aj s dabingom. Oplatí sa na jednom mieste
- Vypredali ho skôr, než začala výroba. Prvý elektromobil slávnej značky je prekvapivý hit
- Vedci objavili materiál, ktorý opraví ľudské kosti extrémne rýchlo. Jeho pôvod fascinuje
- Slováci by si mali skontrolovať kufor. Za toto ti môže polícia dať pokutu a zadržať doklady
-
- POTVRDENÉ: Veľká streamovacia služba na Slovensku končí. Stovky filmov a seriálov získa konkurencia
- Najväčší film Christophera Nolona dorazil online aj s dabingom. Oplatí sa na jednom mieste
- Vypredali ho skôr, než začala výroba. Prvý elektromobil slávnej značky je prekvapivý hit
- Vedci objavili materiál, ktorý opraví ľudské kosti extrémne rýchlo. Jeho pôvod fascinuje
- Slováci by si mali skontrolovať kufor. Za toto ti môže polícia dať pokutu a zadržať doklady
-
- Švajčiari prišli na spôsob, ako vykurovať domácnosti takmer zadarmo. Teplo získajú z nečakaného zdroja
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
- POTVRDENÉ: Veľká streamovacia služba na Slovensku končí. Stovky filmov a seriálov získa konkurencia
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Najväčší film Christophera Nolona dorazil online aj s dabingom. Oplatí sa na jednom mieste
Volkswagen prepustí až 100-tisíc ľudí. Z Nemecka napriek tomu zazneli prekvapivé slová
Európa čakala veľký solárny prepad. Zatmenie ukázalo, prečo veľké číslo pre Slovensko neplatilo
Výrobcom počítačov a mobilov končí obľúbený trik. EÚ prísne skoncuje s falošnou ekológiou
Má stáť zelená energia 120 eur za MWh? ÚRSO označil zelenú energiu za drahý omyl, pravda je iná
Európa chcela odstrihnúť Putina, deje sa však opak. Dovoz ruského LNG prudko vzrástol
USA chystajú vesmírny štít za 160 miliárd eur. Prvý ostrý zásah príde v roku 2029
Mochovce dosiahli kľúčový míľnik. Štvrtý blok už rozbehol jadrovú reakciu
NAJČÍTANEJŠIE ZO STARTITUP

Koniec po 60 rokoch: Obľúbená reštaurácia, kam Slováci chodili na veľké rezne pod 10 eur, musela zatvoriť
PREMIUMPeter Lackovič otvoril v Trnave novú ázijskú reštauráciu: „Stálo nás to približne 250-tisíc eur“ (ROZHOVOR)

Poplach u severného suseda Slovenska. V Poľsku pravdepodobne dopadla ruská raketa, minister hovorí o provokácii

Tieto tri autá strácajú na hodnote najmenej: Elektromobil prekvapil a v bazároch drží krok s obľúbenou Škodovkou

