Internet sa otriasa v základoch. EÚ zaviedla historické pravidlá pre AI, hrozia miliónové pokuty

Európska únia od 2. augusta 2026 uplatňuje ďalšiu zásadnú časť AI Actu. Nové pravidlá majú ľuďom ukázať, kedy komunikujú s umelou inteligenciou a kedy pred sebou nemajú autentickú fotografiu, hlas či video. Povinnosti sa netýkajú iba technologických gigantov. Dopadnú aj na firmy, reklamné agentúry, médiá, influencerov a ďalších profesionálnych tvorcov.

Neznamená to však, že od dneška musí byť každý obrázok upravený pomocou AI prekrytý veľkým varovaním. Zákon rozdeľuje zodpovednosť medzi poskytovateľa nástroja a človeka alebo firmu, ktorá jeho výstup používa. Rozlišuje tiež deepfake, bežnú úpravu fotografie, umelecké dielo a text, ktorý prešiel skutočnou redakčnou kontrolou. Na princípe AI tvorby doplnenej o ľudskú redakčnú kontrolu a overovanie faktov funguje aj projekt od slovenských AI špecialistov Best AI Web.

Práve v týchto rozdieloch sa ukrýva najväčší priestor na omyly. Niečo iné musí urobiť výrobca generátora obrázkov, niečo iné reklamná agentúra a úplne iné pravidlá platia pre človeka, ktorý si doma vytvorí vtipnú fotografiu a pošle ju kamarátom. Ako to teda je a na čo sa treba okamžite pripraviť?

Zákon platí už dva roky, najväčšia zmena však prichádza teraz

AI Act nadobudol účinnosť už 1. augusta 2024. Jeho jednotlivé časti sa však začali uplatňovať postupne. Od februára 2025 platia zákazy neprijateľných spôsobov používania AI a povinnosti spojené s AI gramotnosťou. Ďalšie pravidlá pre všeobecné modely prišli v auguste 2025.

Od 2. augusta 2026 sa začína uplatňovať väčšina zostávajúceho nariadenia vrátane článku 50, ktorý zavádza povinnosti transparentnosti. Európsky úrad pre AI a národné orgány zároveň začínajú pravidlá presadzovať.

Pre bežného človeka ide o zatiaľ najviditeľnejšiu zmenu. Chatbot má priznať, že nie je živý pracovník. Výstup generátora má obsahovať technickú stopu a profesionálne zverejnený deepfake musí dostať aj zrozumiteľné označenie, ktoré používateľ uvidí alebo počuje.

Označenie pritom neslúži ako potvrdenie pravdivosti. AI fotografia označená podľa pravidiel môže byť stále klamlivá a autentické video môže mať vytrhnutý kontext. Zákon iba pomáha oddeliť autentický záznam od obsahu vytvoreného alebo podstatne upraveného umelou inteligenciou.

Jedno dielo môže potrebovať dve rôzne označenia

AI Act rozdeľuje povinnosti medzi poskytovateľa a nasadzovateľa AI systému. Môže tak ísť o dve vrstvy označenia toho istého obsahu.

Poskytovateľom je firma, ktorá AI systém vyvíja a ponúka na európskom trhu. Môže ísť napríklad o prevádzkovateľa generátora obrázkov, hlasov alebo videí. Ten má zabezpečiť, aby bol syntetický výstup označený účinným, spoľahlivým, odolným a interoperabilným strojovo čitateľným spôsobom.

Freepik/Unsplash (Úprava redakcie)

Nemusí ísť o veľký nápis priamo na fotografii. Technická informácia môže byť zapísaná v metadátach, digitálnych prihlasovacích údajoch alebo inom mechanizme, ktorý dokáže prečítať kompatibilná platforma či detekčný nástroj. Jedným z používaných štandardov je C2PA, známy aj cez označenie Content Credentials.

Nasadzovateľom je firma, organizácia alebo profesionál, ktorý AI používa pod vlastnou zodpovednosťou. Reklamná agentúra, ktorá vytvorí falošné video známeho človeka, nemôže splnenie povinnosti postaviť iba na neviditeľných metadátach. Deepfake musí označiť aj spôsobom zrozumiteľným pre diváka.

Deepfake nie je každá fotografia upravená AI

Nariadenie definuje deepfake ako AI vytvorený alebo upravený obrazový, zvukový či obrazovo-zvukový obsah, ktorý sa podobá na existujúcu osobu, predmet, miesto, udalosť alebo inú entitu a mohol by sa človeku nepravdivo javiť ako autentický.

Rozhodujúca preto nie je iba použitá technológia. Dôležité je, čo obsah zobrazuje, ako realisticky pôsobí a v akom kontexte sa k ľuďom dostane.

Ak niekto pomocou AI vytvorí realistické video, v ktorom slovenský politik oznamuje odstúpenie, ide o typický deepfake. Rovnaké pravidlo sa môže týkať falošnej nahrávky hlasu bankára, upraveného záberu dopravnej nehody alebo fotografie povodne, ktorá sa v skutočnosti nestala.

Freepik

Naopak, automatické odstránenie červených očí, úprava expozície, redukcia šumu, farebná korekcia alebo bežné doostrenie fotografie spravidla neznamenajú, že výsledok musí dostať výrazné označenie AI. Európska komisia výslovne počíta s výnimkou pre nástroje, ktoré iba asistujú pri štandardnej editácii a podstatne nemenia obsah.

Rozdiel možno ukázať na konkrétnych situáciách:

• AI odstráni z fotografie prach alebo upraví jas. Ide o bežnú editáciu, ktorá spravidla nepotrebuje označenie deepfaku.
• AI pridá do fotografie človeka, ktorý na mieste nikdy nebol. Ak výsledok pôsobí ako autentický záznam, označenie môže byť potrebné.
• Syntetický hlas prečíta anonymný reklamný text. Poskytovateľ hlasového nástroja musí riešiť technické označenie výstupu.
• Syntetický hlas napodobní konkrétneho lekára a odporúča výrobok. Profesionálny zverejňovateľ musí jasne uviesť, že nejde o autentický hlas.
• Film používa AI na fantastické prostredie alebo vizuálne efekty. Umelecké a fiktívne diela majú miernejší režim, aby upozornenie nenarušilo sledovanie.

Ani umelecká, satirická či fiktívna výnimka však neznamená úplné oslobodenie. Ak dielo obsahuje deepfake, informácia sa má poskytnúť primeraným spôsobom. Môže byť napríklad v titulkoch, popise alebo inom mieste, ktoré nepoškodí zážitok z diela.

Veľká nálepka nemusí byť priamo cez fotografiu

Európska komisia vytvorila dobrovoľné ikony, ktoré môžu používať tvorcovia, vydavatelia a ďalší nasadzovatelia generatívnej AI. Použitie konkrétnej európskej ikony nie je povinné. Povinné je samotné splnenie požiadavky na jasné označenie.

Človek má informáciu dostať najneskôr pri prvom kontakte s deepfake obsahom. Nemal by ju musieť hľadať po otvorení niekoľkých ponúk alebo kontrolovať metadáta súboru špecializovaným programom.

Označenie má vyzerať takto:

ČLÁNOK POKRAČUJE NA ĎALŠEJ STRANE – >>>

Čítajte viac z kategórie: Novinky