Vývoj umelej inteligencie napreduje rýchlosťou svetla. Mnohé významné osobnosti ako Elon Musk či Bill Gates varovali pred možnými nepriaznivými následkami jej využitia bez dostatočnej regulácie. Teraz sa k ním pridali azda najväčšie mozgy sveta, ako informuje portál The Register. Zverejnili pritom dokument, v ktorom
Požadujú prísnu reguláciu
Výskumníci sa neustále snažia zmierniť potenciálne riziká spojené s vývojom umelej inteligencie. Najnovšie sa spojili vedci z University of Cambridge s poprednými persónami z mnohých relevantných inštitúcií ako OpenAI, aby navrhli implementáciu prostriedkov, ktoré vy na diaľku „vypli“ AI systém.
Vytvorili preto dokument, ktorý poukazuje na množstvo spôsobov, prostredníctvom ktorých môžu politickí predstavitelia pristúpiť k regulácii hardvéru umelej inteligencie. Práve regulácia hardvéru by mala byť tým najlepším spôsobom, ako zabrániť jeho zneužitiu na deštruktívne účely.
Cieľom tohto konceptu, inšpirovaného používaním permisívnych akčných väzieb v jadrových zbraniach, je poskytnúť prostriedky na vzdialené vypnutie systémov AI, ktoré predstavujú hrozbu pre spoločnosť, alebo by mohli byť použité na škodlivé účely. Inými slovami, vedci chcú, aby sme AI dali hardvérové tlačidlo, ktorým ju v prípade potreby môžeme vypnúť.
Reguláciu hardvéru je považovaná v porovnaní s inými aspektmi vývoja umelej inteligencie, ako sú napríklad dáta, algoritmy a trénované modely, za prístupnejší bod zásahu zvonka.
Koncept takéhoto vypínania je však spojený s určitými rizikami. Ak by sa takýto mechanizmus implementoval nesprávne, mohol by sa stať cieľom pre kyberzločincov, čo by mohlo riziká skôr zhoršiť, než ich zmierniť.
Ďalšie riešenie
Návrh vytvorenia „vypnutia na diaľku“ nie je jediným riešením, o ktorom sa diskutuje v súvislosti s ovládaním AI. Medzi ďalšie navrhované riešenia patrí vývoj tzv. interpretovateľnej umelej inteligencie, ktorá by mohla vôbec uľahčiť ľuďom vypnúť nesprávne fungujúce systémy. Všetky tieto riešenia však čelia niekoľkým výzvam a vývoj bezpečnej a užitočnej AI zostáva náročnou úlohou.
Nateraz však spojenie múdrych hláv v rozsiahlom dokumente predstavuje dôležitý krok k tomu, aby sa umelá inteligencia vyvíjala bezpečným a zodpovedným spôsobom. Zdôrazňuje potrebu mnohostranného prístupu k riešeniu problému kontroly nad systémom, ktorý si bude vyžadovať spoluprácu výskumníkov, politikov a vedúcimi predstaviteľmi priemyslu.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
USA stavajú zbraň budúcnosti. F/A-XX bude mať o štvrtinu väčší dolet než F-35
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
Západ je v pozore. Čína predstavila zabijaka ChatGPT, nová AI ho v testoch rozdrvila
ChatGPT sa mení od základov. Túto novú funkciu nebudeš chcieť prestať používať, má to však háčik
NAJČÍTANEJŠIE ZO STARTITUP
Veľká zrážka rýchlikov si vyžiadala takmer 100 zranených. Šutaj Eštok prehovoril o príčine
Hororový večer v Bratislave: Plamene zachvátili bytovku, požiar si podľa starostu vyžiadal jednu obeť
„Vlak vyzeral strašne,“ opísal svedok chaos po zrážke rýchlikov. Nemocnica spustila krízový plán
Dopravný analytik pre Startitup o zrážke vlakov: Fotografie naznačujú, že jeden vlak stál až za návestím
Firma Petry Toth dosiahla tržby 2,2 milióna eur, no ona hlási koniec: Kým ostatní oslavovali v lobby, ja som mala panické ataky
- 24 hod
- 48 hod
- 7 dní
-
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
- Šéf Lamborghini odpísal elektromobily jednou vetou. Radšej urobia kompromis v obľúbenom pohone
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
-
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Zostrelili UFO a kruto za to zaplatili. 23 sovietskych vojakov podľa CIA postihol desivý osud
Nemecké tajné služby bijú na poplach: Rusko sa nebojí otvoreného vojenského konfliktu s NATO
Z Nemecka hlásia bizár: Zlodeji plienia na nabíjacích staniciach pre elektromobily, kradnú toto
Ľudstvo prekročilo prvú červenú čiaru. Zmeny na planéte sa dejú tragicky rýchlo, blíži sa kolaps
Ľudia žijú dlhšie ako kedykoľvek predtým. Nová štúdia však odhalila krutý nedostatok
Vláda našla peniaze na energopomoc. Fico už má jasný plán, Brusel vraj neprotestuje
NAJČÍTANEJŠIE ZO STARTITUP