Umelá inteligencia je síce všestranným pomocníkom, avšak aj pri jeho využívaní by sa mali dodržiavať pravidlá. Európska únia pripravila komplexné regulácie umelej inteligencie, ktoré sú známe ako EU AI act. Európska komisia zverejnila smernice, ktoré podrobne opisujú, čo bude zákon obsahovať.

Ako informuje Česká asociácia umelej inteligencie (ČAUI), pokyny zatiaľ nie sú priamo záväzné, avšak ukazuje, akým smerovaním sa budú nariadenia uberať a aké praktiky budú podľa nej zakázané.

Zákaz podprahových techník či kategorizovanie ľudí

Väčšina modelov umelej inteligencie disponujú s bezpečnostnými opatreniami na blokovanie škodlivých či neetických otázok, napríklad v prípade analýzy DeepSeeku sa zistilo, že dokáže generovať vysoko nebezpečný obsah v oveľa vyššej miere, než konkurenčné modely. Podobným situáciám chce EÚ zabrániť.

Freepik

Jedným z kľúčových bodov smernice je zákaz využívania podprahových techník, ktoré by skrytými signálmi ovplyvňovali rozhodovanie používateľov. Cieľom je ochrana pred neuromarketingom, ktoré by mohli zneužiť chatboty. Umelá inteligencia nesmie cieliť na zraniteľné skupiny, napríklad deti, seniorov, ľudí so zdravotným postihnutím či na tých, ktorí sa nachádzajú v ťažkej situácií, napríklad finančnej.

Zo smernice vyplýva, že na rozdiel od krajín ako je Čína, kde sa využívajú systémy hodnotenia občanov na základe ich správania, v krajinách Európskej únie je tento systém zakázaný a nesmie byť využitý na prístup k službám. Taktiež sa nedočkáme budúcnosti podobnej ako vo filme Minority Report, kde na základe predikcií polícia zatýkala zločincov skôr než došlo k zločinu. Európska únia totiž zakazuje využiť umelú inteligenciu na predpovedanie zločinov na základe analýzy psychologického profilu jednotlivcov.

Európska únia tiež dbá na bezpečnosť a súkromie používateľov, preto smernice zakazujú hromadný automatizovaný zber fotografií z internetu alebo bezpečnostných kamier. Tie by mohli byť zneužité na vytvorenie databáz pre rozpoznávanie tváre.

Použiť nástroje umelej inteligencie na monitorovanie emócií zamestnancov či študentov bude povolené len v prípade zdravotných či bezpečnostných dôvodov. Taktiež nebude možné využiť AI na kategorizovanie ľudí podľa rasy, politických názorov, viery či sexuálnej orientácie.

Pravidlá stanovujú, že biometrickú identifikáciu na verejných miestach v reálnom čase je zakázané používať. Výnimkou sú situácie v prípade teroristických hrozieb, alebo hľadania nezvestných osôb či nebezpečných páchateľov.

Za porušenie pravidiel miliónové pokuty

Dokument obsahuje aj ďalšie komplexné nariadenia. V prípade, ak by spoločnosti vyvinuli alebo použili AI v rozpore s nariadeniami, môžu čeliť pokutám vo výške 35 miliónov eur, alebo do 7 % ročného obratu firmy. Niektoré časti pravidiel platia už od 2. februára, avšak firmy by sa na smernice mali pripraviť do augusta 2025.

Čítajte viac z kategórie: Novinky