Masové sledovanie ľudí a sociálny kredit dostane v EÚ „červenú“. Únia chce regulovať kritické dopady využitia umelej inteligencie

Umelá inteligencia si v modernom svete nachádza stále viac využití a mnohokrát sa nachádza aj tam, kde by si ju možno nečakal. Európska únia preto uvažuje o zákaze používania umelej inteligencie na rôzne účely, vrátane hromadného sledovania ľudí a systému tzv. sociálneho kreditu, za ktorý je kritizovaná najmä Čína, informoval The Verge.

Oficiálne oznámenie tohto návrhu má podľa portálu Politico prísť už budúci týždeň, pričom EÚ chce týmto zaujať pevný postoj k určitým aplikáciám umelej inteligencie a odlíšiť sa tak od USA a Číny.

V EÚ ťa umelá inteligencia bez povolenia sledovať nebude

Ako bude regulácia vyzerať? Niektoré prípady použitia sa podľa dostupných informácií budú regulovať v súlade s nariadeniami GDPR, pričom od členských štátov by sa v tomto smere najmä vyžadovalo, aby zriadili hodnotiace komisie na testovanie a validáciu „vysoko rizikových“ systémov umelej inteligencie.

Medzi tie budú patriť systémy s účelom hromadného sledovania či sledovania jednotlivcov a zhromažďovania údajov o nich, vytváranie tzv. sociálneho kreditu, teda akéhokoľvek „skóre“ človeka na základe jeho vonkajšieho správania či rozpoznávanie tvárí na verejných priestranstvách.

Zobraziť celú galériu (2)

Freepik

Nariadenia taktiež vyžadujú upozorniť ľudí, keď budú s umelou inteligenciou interagovať, podobne ako máme dnes upozornenia na sledovanie kamerovým systémom.

NEPREHLIADNI
Muskov Neuralink napreduje raketovo. Opica s čipom v mozgu si prvýkrát zahrala ping-pong len pomocou mysle

Rizikovosť nových systémov má posudzovať nová Európska rada pre umelú inteligenciu pozostávajúca zo zástupcov všetkých štátov. Tá má komisii pomáhať pri rozhodovaní, ktoré systémy umelej inteligencie sa budú považovať za „vysoko rizikové“.

Zobraziť celú galériu (2)

Pixabay

Odborníci varujú pred potláčaním vývoja

Podľa odborníkov je však regulácia v takomto stave až príliš neurčitá a obsahuje vážne medzery, ktoré by mohli výrazne obmedziť vývoj umelej inteligencie v EÚ.

Jej súčasťou je totiž aj systém pokút, ktoré pri vývoji alebo predaji „zakázaného“ softvéru v únii môžu pre spoločnosť dosahovať výšku až 4 % z ich globálnych výnosov. Firmy by to tak mohlo v mnohých ohľadoch odradiť od vývoja umelej inteligencie v EÚ.

NEPREHLIADNI
Unikátny „fotónový“ procesor výkonom tromfne aj najlepší čip Nvidie. Je stavaný špeciálne pre umelú inteligenciu

Zatiaľ však nie je jasné, ako bude kompletný návrh vyzerať. Jeho oficiálne predloženie má prísť budúcu stredu 21. apríla, odkiaľ sa dostane k poslancom Európskeho parlamentu a následne aj k vládam v jednotlivých štátoch.

Čítajte viac z kategórie: Cyber