Vývoj umelej inteligencie napreduje rýchlosťou svetla. Mnohé významné osobnosti ako Elon Musk či Bill Gates varovali pred možnými nepriaznivými následkami jej využitia bez dostatočnej regulácie. Teraz sa k ním pridali azda najväčšie mozgy sveta, ako informuje portál The Register. Zverejnili pritom dokument, v ktorom
Požadujú prísnu reguláciu
Výskumníci sa neustále snažia zmierniť potenciálne riziká spojené s vývojom umelej inteligencie. Najnovšie sa spojili vedci z University of Cambridge s poprednými persónami z mnohých relevantných inštitúcií ako OpenAI, aby navrhli implementáciu prostriedkov, ktoré vy na diaľku „vypli“ AI systém.
Vytvorili preto dokument, ktorý poukazuje na množstvo spôsobov, prostredníctvom ktorých môžu politickí predstavitelia pristúpiť k regulácii hardvéru umelej inteligencie. Práve regulácia hardvéru by mala byť tým najlepším spôsobom, ako zabrániť jeho zneužitiu na deštruktívne účely.
Cieľom tohto konceptu, inšpirovaného používaním permisívnych akčných väzieb v jadrových zbraniach, je poskytnúť prostriedky na vzdialené vypnutie systémov AI, ktoré predstavujú hrozbu pre spoločnosť, alebo by mohli byť použité na škodlivé účely. Inými slovami, vedci chcú, aby sme AI dali hardvérové tlačidlo, ktorým ju v prípade potreby môžeme vypnúť.
Reguláciu hardvéru je považovaná v porovnaní s inými aspektmi vývoja umelej inteligencie, ako sú napríklad dáta, algoritmy a trénované modely, za prístupnejší bod zásahu zvonka.
Koncept takéhoto vypínania je však spojený s určitými rizikami. Ak by sa takýto mechanizmus implementoval nesprávne, mohol by sa stať cieľom pre kyberzločincov, čo by mohlo riziká skôr zhoršiť, než ich zmierniť.
Ďalšie riešenie
Návrh vytvorenia „vypnutia na diaľku“ nie je jediným riešením, o ktorom sa diskutuje v súvislosti s ovládaním AI. Medzi ďalšie navrhované riešenia patrí vývoj tzv. interpretovateľnej umelej inteligencie, ktorá by mohla vôbec uľahčiť ľuďom vypnúť nesprávne fungujúce systémy. Všetky tieto riešenia však čelia niekoľkým výzvam a vývoj bezpečnej a užitočnej AI zostáva náročnou úlohou.
Nateraz však spojenie múdrych hláv v rozsiahlom dokumente predstavuje dôležitý krok k tomu, aby sa umelá inteligencia vyvíjala bezpečným a zodpovedným spôsobom. Zdôrazňuje potrebu mnohostranného prístupu k riešeniu problému kontroly nad systémom, ktorý si bude vyžadovať spoluprácu výskumníkov, politikov a vedúcimi predstaviteľmi priemyslu.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Paranoja alebo predvídavosť? Ďalší miliardár chce stavať vlastný bunker. Dôvodom má byť umelá inteligencia
Toto zariadenie prekonalo všetky robotické vysávače. Novinka na Kickstarteri je prvá na svete s unikátnou vlastnosťou
Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
USA stavajú zbraň budúcnosti. F/A-XX bude mať o štvrtinu väčší dolet než F-35
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
NAJČÍTANEJŠIE ZO STARTITUP
Slováci hádžu do koša „superpotravinu“: Znižuje tlak, chráni kosti a spomaľuje starnutie
Mrazivá predpoveď expertov: Ruská armáda sa poučila z chýb. Ukrajinu čaká ešte väčšia deštrukcia
Slováci objavili rýchly spôsob, ako sa zbaviť dlhov. Veritelia často nedostanú vôbec nič
Zlomená panva a rozdrvená tvár. Lekári varujú pred najnebezpečnejším zvykom Slovákov v aute
Potravina za pár drobných môže odhaliť rakovinu hrubého čreva. Renomovaný lekár prezradil jednoduchý trik
- 24 hod
- 48 hod
- 7 dní
-
- Vesmír poslal záhadný signál, ktorý šokoval vedcov. Po 50 rokoch sa ozvalo niečo, čo už malo byť dávno mŕtve
- Vodičov pobúrili nové kontroverzné radary. Rýchlosť ti už nezmeria polícia, ale sused s mobilom
- Čo ak sa Veľký tresk nikdy nestal? Vedci prišli s vysvetlením, ktoré mení všetko o vzniku vesmíru
- Ľudia sa nevedia dočkať. Známa akčná séria po 12 rokoch chystá veľký návrat
- Európa má miliardový poklad, ktorý nevyužíva. Milióny ton kritických surovín nám dá geopolitickú výhodu
-
- Ľudia sa nevedia dočkať. Známa akčná séria po 12 rokoch chystá veľký návrat
- Vodičov pobúrili nové kontroverzné radary. Rýchlosť ti už nezmeria polícia, ale sused s mobilom
- Africký štát blízko Európy sa pripravuje na vojnu. Do zbraní nalejú miliardy, analytici sa chytajú za hlavy
- Európa má miliardový poklad, ktorý nevyužíva. Milióny ton kritických surovín nám dá geopolitickú výhodu
- Vesmír poslal záhadný signál, ktorý šokoval vedcov. Po 50 rokoch sa ozvalo niečo, čo už malo byť dávno mŕtve
-
- Africký štát blízko Európy sa pripravuje na vojnu. Do zbraní nalejú miliardy, analytici sa chytajú za hlavy
- Vodičov pobúrili nové kontroverzné radary. Rýchlosť ti už nezmeria polícia, ale sused s mobilom
- 1200 metrov pod pyramídami objavili 38 000 rokov staré mesto, z ktorého vedcom padla sánka
- Šéf Lamborghini odpísal elektromobily jednou vetou. Radšej urobia kompromis v obľúbenom pohone
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
Po ruských dronoch prichádza tvrdá odpoveď. Británia predlžuje svoju misiu nad Poľskom
Británia posiela Ukrajine technológiu, ktorá mení vojnu. Na fronte pribúdajú tisíce dronov denne
Ak máš tohto operátora, máš to najlepšie na Slovensku. 5G sieť zasahuje už viac než 5 miliónov ľudí
Fosílne palivá ich devastujú a musia konať rýchlo. Dôležitý spojenec Západu sa musí rozhodnúť
Kľúčový ľad planéty sa stráca alarmujúcou rýchlosťou. Vedci hovoria o predčasnej katastrofe
NAJČÍTANEJŠIE ZO STARTITUP