Vedci sú znepokojení. Ak toto okamžite nedáme AI, môže zničiť ľudstvo

Vývoj umelej inteligencie napreduje rýchlosťou svetla. Mnohé významné osobnosti ako Elon Musk či Bill Gates varovali pred možnými nepriaznivými následkami jej využitia bez dostatočnej regulácie. Teraz sa k ním pridali azda najväčšie mozgy sveta, ako informuje portál The Register. Zverejnili pritom dokument, v ktorom

Požadujú prísnu reguláciu

Výskumníci sa neustále snažia zmierniť potenciálne riziká spojené s vývojom umelej inteligencie. Najnovšie sa spojili vedci z University of Cambridge s poprednými persónami z mnohých relevantných inštitúcií ako OpenAI, aby navrhli implementáciu prostriedkov, ktoré vy na diaľku „vypli“ AI systém.

Vytvorili preto dokument, ktorý poukazuje na množstvo spôsobov, prostredníctvom ktorých môžu politickí predstavitelia pristúpiť k regulácii hardvéru umelej inteligencie. Práve regulácia hardvéru by mala byť tým najlepším spôsobom, ako zabrániť jeho zneužitiu na deštruktívne účely.

Cieľom tohto konceptu, inšpirovaného používaním permisívnych akčných väzieb v jadrových zbraniach, je poskytnúť prostriedky na vzdialené vypnutie systémov AI, ktoré predstavujú hrozbu pre spoločnosť, alebo by mohli byť použité na škodlivé účely. Inými slovami, vedci chcú, aby sme AI dali hardvérové tlačidlo, ktorým ju v prípade potreby môžeme vypnúť.

Freepik

Reguláciu hardvéru je považovaná v porovnaní s inými aspektmi vývoja umelej inteligencie, ako sú napríklad dáta, algoritmy a trénované modely, za prístupnejší bod zásahu zvonka.

Koncept takéhoto vypínania je však spojený s určitými rizikami. Ak by sa takýto mechanizmus implementoval nesprávne, mohol by sa stať cieľom pre kyberzločincov, čo by mohlo riziká skôr zhoršiť, než ich zmierniť.

Ďalšie riešenie

Návrh vytvorenia „vypnutia na diaľku“ nie je jediným riešením, o ktorom sa diskutuje v súvislosti s ovládaním AI. Medzi ďalšie navrhované riešenia patrí vývoj tzv. interpretovateľnej umelej inteligencie, ktorá by mohla vôbec uľahčiť ľuďom vypnúť nesprávne fungujúce systémy. Všetky tieto riešenia však čelia niekoľkým výzvam a vývoj bezpečnej a užitočnej AI zostáva náročnou úlohou.

Nateraz však spojenie múdrych hláv v rozsiahlom dokumente predstavuje dôležitý krok k tomu, aby sa umelá inteligencia vyvíjala bezpečným a zodpovedným spôsobom. Zdôrazňuje potrebu mnohostranného prístupu k riešeniu problému kontroly nad systémom, ktorý si bude vyžadovať spoluprácu výskumníkov, politikov a vedúcimi predstaviteľmi priemyslu.

Čítajte viac z kategórie: Novinky