O regulácii obsahu vytvorenou umelou inteligenciou sa diskutuje čoraz viac. Čína od septembra zavádza nové pravidlo, podľa ktorého obsah vygenerovaný AI bude musieť byť jasne označený. Podľa čínskej vlády cieľom nariadenia je obmedziť dezinformácie a ochrániť používateľov. O téme informoval portál Tom’s Hardware.

Jasné označenie obsahu

Nariadenie, ktorej cieľom je regulácia rýchlo rozvíjajúcej technológie umelej inteligencie, oznámila Kybernetická administratíva Číny, národný cenzor Čínskej komunistickej strany. Podľa informácií South China Morning Post, vygenerovaný obsah bude musieť mať explicitné a implicitné označenie – teda jasne viditeľné označenie a zároveň má obsahovať aj metadáta s digitálnym vodoznakom.

Všetci poskytovatelia AI služieb, vrátane jazykových modelov budú musieť pridávať viditeľné označenia ku všetkému obsahu, ktorý bol vytvorený umelou inteligenciou. Označenie budú musieť mať všetky vygenerované obrázky, videá, zvuky, texty, či virtuálne scény. Dokonca obchody s aplikáciami budú musieť kontrolovať, či jednotlivé aplikácie tieto požiadavky spĺňajú.

Unsplash/App Store (Úprava redakcie)

Hoci tvorcovia budú musieť dodržiavať prísne pravidlá, používatelia budú môcť stále uverejňovať AI obsah bez označenia, ale iba v prípade „sociálnych záujmov a priemyselných potrieb“. V tom prípade však AI aplikácia musí používateľa upozorniť a zaznamenať, že ide o výnimku.

Podľa nových pravidiel bude zakázané úmyselné odstraňovanie, falšovanie alebo skrývanie AI označení a metadát. Taktiež nebude možné poskytovať nástroje, ktoré by napríklad dokázali vymazať metadáta z vygenerovaného obsahu. Nové nariadenie však bude fungovať aj opačne. Obsah vytvorený človekom nemôže byť označený ako AI dielo.

Čínska vláda novým nariadením chce kontrolovať a zabrániť šíreniu AI dezinformácií a chce chrániť používateľov pred zavádzajúcim vygenerovaným obsahom, podvodmi a ochrániť aj autorské práva. Je však otázne, ako vláda chce kontrolovať, či všetok obsah spĺňa požiadavky. Nové nariadenie bude platiť od septembra 2025. Vláda zatiaľ nezverejnila konkrétne tresty za porušenia.

Pomoc alebo cenzúra?

Hoci nariadenie môže pomôcť v identifikácií vygenerovaného a syntetického obsahu, kritici sa však obávajú väčšej kontroly a internetovej cenzúry zo strany čínskej vlády. Napríklad AI jazykový model DeepSeek cenzuruje obsah, ktorý čínskej vláde nevyhovuje. Zároveň sa však Čína pridáva ku krajinám, ktoré chcú regulovať AI obsah. Európska únia vydala v roku 2024 nariadenie o umelej inteligencii (EU AI Act). Čo bude obsahovať, sme informovali v minulom článku.

Čítajte viac z kategórie: Novinky