V tomto texte boli použité materiály TASR.

Britský mediálny regulátor Ofcom sa dostal do priameho kontaktu so sociálnou sieťou X v súvislosti s mimoriadne vážnymi obvineniami, ktoré sa týkajú jej nástroja umelej inteligencie Grok. Podľa sťažností má tento systém generovať falošné pornografické obrázky detí, čo otvára otázky nielen o technických zlyhaniach, ale aj o zodpovednosti platforiem za obsah vytváraný pomocou generatívnej AI. Prípad prichádza v čase, keď Európa výrazne sprísňuje dohľad nad digitálnymi službami a ich vplyvom na bezpečnosť používateľov.

Ofcom v pondelok potvrdil, že v reakcii na podnety verejnosti a médií začal situáciu aktívne riešiť. Regulátor zdôrazňuje, že ochrana maloletých patrí medzi jeho najvyššie priority, a to najmä v prostredí rýchlo sa rozvíjajúcich technológií, ktoré dokážu generovať realistický obrazový aj audiovizuálny obsah.

Závažné obavy z výstupov nástroja Grok

Podľa stanoviska britského dozorného orgánu sa obvinenia týkajú funkcie umelej inteligencie Grok, ktorú prevádzkuje startup xAI pre platformu X, patriacu Elonovi Muskovi. „Boj proti nelegálnemu škodlivému obsahu na internete a ochrana detí naďalej patria medzi naliehavé priority Ofcomu,“ uviedol hovorca úradu. Zároveň priznal, že regulátor si je plne vedomý vážnosti situácie. „Sme si vedomí vážnych obáv, ktoré vyvolala funkcia Grok na (platforme) X, ktorá produkuje obrázky nahých ľudí a sexualizované snímky detí,“ dodal.

Ofcom podľa vlastných slov „urýchlene kontaktoval (platformu) X a (startup) xAI, aby zistil, aké kroky podnikli platformy na splnenie svojich zákonných povinností chrániť používateľov v Spojenom kráľovstve“. Na základe odpovedí následne rozhodne, „či existujú potenciálne problémy s dodržiavaním predpisov, ktoré by si vyžadovali ďalšie vyšetrovanie“. Ide pritom o proces, ktorý môže v krajnom prípade viesť až k vysokým pokutám alebo iným sankciám.

Európska únia pritvrdzuje rétoriku

Britský zásah nie je ojedinelý. Len krátko predtým Európska únia oznámila, že „vážne prešetruje“ sťažnosti týkajúce sa rovnakého nástroja. Podľa vyjadrení z Bruselu má Grok ponúkať takzvaný „pikantný režim“, ktorý zobrazuje explicitný sexuálny obsah, pričom niektoré výstupy údajne zahŕňajú aj obrázky detí. Reakcia európskych predstaviteľov bola nekompromisná. „To nie je pikantné. To je nezákonné. Je to desivé,“ zdôraznil hovorca EÚ pre digitálne záležitosti Thomas Regnier.

Zástupcovia aplikácie Grok v piatok priznali, že v systéme identifikovali chyby, ktoré označili ako „nedostatky v bezpečnostných opatreniach“. Zároveň deklarovali, že „naliehavo“ pracujú na ich odstránení. Pre regulátorov však nejde len o technický problém, ale o otázku dodržiavania platných zákonov.

Podľa britského zákona o online bezpečnosti majú webové stránky, sociálne siete a video platformy povinnosť zaviesť prísne overovanie veku používateľov, napríklad prostredníctvom kontroly tváre alebo platobných kariet, ak existuje riziko zobrazenia škodlivého obsahu. Zákon zároveň jasne stanovuje, že je nezákonné vytvárať alebo šíriť intímne materiály bez súhlasu dotknutých osôb, ako aj akýkoľvek obsah zobrazujúci sexuálne zneužívanie detí, vrátane sexuálnych deepfakeov vytvorených pomocou umelej inteligencie.