Bič na umelú inteligenciu: EÚ spustila prísny zákon. Ak toto porušíš, hrozí brutálna pokuta

V tomto texte boli použité materiály TASR.

Aktualizácia 2.8.2024:

Európska únia zavádza od 1. augusta prelomovú legislatívu v oblasti umelej inteligencie. Tento celosvetovo prvý komplexný zákon o AI má za cieľ vytvoriť jednotný trh pre AI technológie v rámci EÚ, prilákať investície a zároveň chrániť základné práva občanov. Na účinnosť zákona upozornila TASR.

Nový právny predpis zavádza kategorizáciu AI systémov podľa úrovne rizika. Väčšina aplikácií spadá do kategórie minimálneho rizika, no systémy s vyššou hrozbou budú podliehať prísnejším požiadavkám na kvalitu dát, dokumentáciu, transparentnosť a ľudský dohľad. Niektoré aplikácie, ktoré sú považované za hrozbu pre základné práva, budú po novom úplne zakázané.

Zákon stanovuje aj pravidlá pre všeobecné modely umelej inteligencie schopné vykonávať širokú škálu úloh. Cieľom je zabezpečiť transparentnosť v celom hodnotovom reťazci a riešiť potenciálne systémové riziká. Obsah generovaný umelou inteligenciou, vrátane deepfakes, musí byť jasne označený a systémy akými sú napríklad četboty, musia informovať užívateľov o interakcii so strojom.

Na úrovni EÚ bude kľúčovým orgánom Úrad Európskej komisie pre umelú inteligenciu, ktorý bude dohliadať na dodržiavanie zákona a môže udeľovať pokuty za jeho porušenie. Členské štáty EÚ majú do 2. augusta 2025 určiť národné orgány, ktoré budú zodpovedné za dohľad nad implementáciou týchto pravidiel.

Táto nová legislatíva má ambíciu zabezpečiť spoľahlivosť AI systémov v Európskej únii a zároveň podporiť inovácie v tejto rýchlo sa rozvíjajúcej oblasti. Jej cieľom je nájsť rovnováhu medzi ochranou práv občanov a podporou technologického pokroku v sektore umelej inteligencie.

Bližšie vysvetlené jednotlivé sankcie a pravidlá nájdeš v pôvodnom článku nižšie.

Pôvodný článok:

Umelá inteligencia vyvoláva od svojho prelomu množstvo obáv u odborníkov, vplyvných osobností, ale aj bežných ľudí. Už toľkokrát sa hovorilo a vyzývalo o určitej legislatívnej úprave a ukotvení, no doteraz to stále bolo v akejsi hmlovine neurčitosti. Portál Forbes však informoval o veľkom prelome, ktorý sa udial v tejto oblasti.

Prelomová legislatíva

Európska únia oficiálne schválila prvý komplexný právny rámec pre umelú inteligenciu na svete. Jeho cieľom je regulovať technológie AI na základe ich možných rizík a vplyvov. Tým by sa mal zabezpečiť vývoj výlučne bezpečných a dôveryhodných systémov umelej inteligencie súvzťažne s ochranou práv občanov EÚ.

Zákon o umelej inteligencii sa vzťahuje výlučne na oblasti v rámci práva EÚ so špecifickými výnimkami pre systémy používané výlučne na vojenské a obranné účely, ako aj na výskumné činnosti. V komplexnom rámci tak budú systémy umelej inteligencie regulované na základe úrovne ich rizika.

Systémy AI, ktoré budú označené ako vysokorizikové – napríklad systémy v kritickej infraštruktúre alebo zdravotníckych zariadeniach – budú čeliť viacerým nariadeniam. Tie budú od týchto systémov vyžadovať vyhodnotenie a zníženie rizík a tiež transparentnosť v súvislosti s používaním údajov a zabezpečením ľudského dohľadu.

Copilot Designer

Špecifický prístup k aplikáciám AI

Aplikácie na báze umelej inteligencie, ktoré majú potenciál ohroziť práva občanov EÚ, budú zakázané. Patriť sem budú napríklad biometrické identifikačné systémy určené na identifikáciu osôb na verejných priestranstvách.

Tieto systému budú môcť používať iba orgány činné v trestnom konaní a to len na vyhľadávanie obetí obchodovania s ľuďmi a sexuálneho vykorisťovania, na predchádzanie teroristických hrozieb a na identifikáciu osôb podozrivých zo spáchania trestného činu.

Okrem toho si nové nariadenie budú vyžadovať jasné označenie pre obrázky, video alebo audio obsah vygenerovaný umelou inteligenciou.

Copilot Designer

Novozriadené inštitúty a mastné pokuty

Na dodržiavanie nariadení bude dozerať a jednotne presadzovať pravidlá v celej EÚ novozriadený úrad pre umelú inteligenciu. Vedecký panel, či komisia nezávislých odborníkov bude poskytovať technické a etické usmernenia, rada zložená zo zástupcov členských štátov zabezpečí široký dohľad.

Sankcie za porušenie zákona o umelej inteligencii budú poriadne mastné, čo podčiarkuje citlivosť a zodpovedný prístup k tejto téme. Ak sa určitá spoločnosť previní voči tejto legislatíve, môže ju postihnúť pokuta až do výšky 35 miliónov eur, prípadne 7 % z jej globálnych príjmov –podľa toho, ktorá hodnota bude vyššia.

Zákon o AI nadobudne účinnosť už budúci mesiac, jeho úplná implementácia sa očakáva až o dva roky. Špecifické ustanovenia ako napríklad obmedzenia zakázaných praktík alebo povinnosti pre vysokorizikové systémy, budú rozvrhnuté do časových harmonogramov ich implementácie v rozmedzí od šiestich mesiacov do troch rokov po nadobudnutí účinnosti zákona.

Čítajte viac z kategórie: Novinky