V tomto texte boli použité materiály SITA.

Spoločnosť xAI, ktorú vlastní technologický miliardár Elon Musk, pristúpila k výraznému obmedzeniu funkcií svojho chatbota Grok. Po vlne medzinárodnej kritiky vypol generovanie obrázkov pre neplatiacich používateľov, a to po tom, čo sa ukázalo, že nástroj bol zneužívaný na tvorbu sexuálne ladených „deepfake“ obrázkov žien a dokonca aj detí. Ide o ďalší prípad, ktorý poukazuje na problematické hranice generatívnej umelej inteligencie a na rastúci tlak regulátorov na technologické platformy.

Samotný Grok zmenu potvrdil priamo na sociálnej sieti X, ktorá takisto patrí do Muskovej podnikateľskej sféry. „Generovanie a úprava obrázkov sú momentálne obmedzené len pre predplatiteľov,“ uviedol chatbot v piatok. Funkcia je po novom dostupná výhradne pre používateľov s aktívnym predplatným, ktorí musia pri jej využívaní zadať číslo kreditnej karty a svoje osobné údaje. Tento krok má podľa všetkého obmedziť anonymné zneužívanie nástroja a zároveň umožniť lepšiu identifikáciu používateľov v prípade porušenia zákona.

Sexuálny obsah a deepfake obrázky vyvolali pobúrenie

Podľa medializovaných informácií niektorí používatelia Groka cielene využívali generovanie obrázkov na vytváranie záberov nahých žien a detí, často v otvorene sexuálnych polohách. Práve zapojenie maloletých do takéhoto obsahu vyvolalo ostrú reakciu politikov aj regulačných orgánov v rôznych častiach sveta. Kritika sa rýchlo rozšírila za hranice Európy a zasiahla aj Áziu, kde sa k odsudzujúcim stanoviskám pridali napríklad Malajzia či India.

Európska komisia v tejto súvislosti jednoznačne konštatovala, že fotografie nahých žien a detí sú nezákonné. Zároveň nariadila platforme X uchovať všetky interné dokumenty a dáta súvisiace s Grokom až do konca roka 2026. Tento krok naznačuje, že Brusel zvažuje ďalšie právne kroky a chce mať k dispozícii dôkazy pre prípadné vyšetrovanie porušenia európskej legislatívy, vrátane Aktu o digitálnych službách.

Rastúci politický tlak na Muska a platformu X

Tvrdé slová zazneli aj z Londýna. Britský premiér Keir Starmer vyhlásil, že platforma X „si to musí dať do poriadku“ a vyzval telekomunikačného regulátora Ofcom, aby preskúmal všetky dostupné možnosti na zabezpečenie nápravy. Sporné obrázky označil za „nezákonné“ a zdôraznil, že Spojené kráľovstvo nebude tolerovať takéto zneužívanie umelej inteligencie.

Elon Musk sa k celej kauze vyjadril na svojej sieti už minulý týždeň, keď sa snažil preniesť zodpovednosť priamo na používateľov. „Každý, kto použije Groka na tvorbu nelegálneho obsahu, ponesie rovnaké následky, ako keby taký obsah nahral,“ uviedol Musk. Toto vyhlásenie však kritici považujú za nedostatočné, keďže podľa nich platforma nesie spoluzodpovednosť za to, aké nástroje sprístupňuje a aké bezpečnostné mechanizmy pri tom uplatňuje.

Obmedzenie generovania obrázkov pre neplatiacich používateľov môže byť len prvým krokom. Prípad Groka ukazuje, že generatívna AI sa čoraz častejšie dostáva do konfliktu s právnymi a etickými normami, najmä ak ide o ochranu detí a sexuálne zneužívanie. Pre technologické firmy to znamená rastúce riziko vysokých pokút, reputačných škôd a prísnejších regulácií. Zároveň ide o jasný signál pre celý sektor, že anonymný prístup k výkonným nástrojom umelej inteligencie bude čoraz viac obmedzovaný.