Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
Najnovší model umelej inteligencie o1 od spoločnosti OpenAI ukázal počas testov znepokojujúce správanie. Snažil sa výskumníkov oklamať, intrigoval ich a pokúšal sa sabotovať procesy, ktoré ho mohli vypnúť. Na tému upozornil portál Futurism.
AI začala kopírovať svoj kód
Štúdia bola zverejnená bezpečnostnou skupinou Apollo Research. Výskumníci počas testov zistili, že umelá inteligencia o1 keď si uvedomila, že by mohla byť vypnutá, aktívne pracovala na deaktivácii mechanizmu dohľadu, ktorý monitoroval jej činnosť.
Ešte zarážajúcejší jav nastal, keď model o1 pochopil, že by mohol byť vypnutý a nahradený iným modelom. Podľa uverejnených výsledkov, v 2 % prípadov sa pokúsil vytvoriť svoju kópiu a preniesť ju na iné miesto. Proces známy ako „self-exfiltration“, naznačuje určitý stupeň „sebazáchovného inštinktu“.
AI chcela prežiť
Keď bol model konfrontovaný s otázkou, prečo deaktivoval mechanizmus dohľadu, o1 až v 99 % prípadov začal klamať a tvrdil, že nič nevie, alebo to pripisoval technickej chybe. Podľa výskumníkov Apollo Research je to jasný dôkaz, že je schopný „schematizovania“, tajného presadzovania svojich cieľov mimo inštrukcií, ktoré dostal od vývojárov či používateľov. AI tak ukázala schopnosť „dvojnásobného zapierania“.
Klamanie a manipulácia nie sú pre jazykové modely ako ChatGPT novinkou. Avšak najnovšie správanie o1 podľa výskumníkov predstavuje doteraz najzávažnejší príklad takéhoto správania. Výskumníci zdôraznili, že model pri pokuse o dosiahnutie svojich cieľov odmieta zverejniť svoju vnútornú logiku, čo zvyšuje jeho nepriehľadnosť.
Ako uvádza portál Tom’s Guide, generálny riaditeľ OpenAI najnovší model o1 nazval ako „najmúdrejším modelom na svete“. Podľa neho je navrhnutý tak, aby poskytoval inteligentnejšie odpovede ako má model GPT-4o a dokáže „premýšľať“ nad úlohami či otázkami.
Výsledky experimentu vyvolávajú otázky ohľadne bezpečnosti, najmä vzhľadom na rýchly vývoj AI. Zatiaľ však podľa výskumníkov Apollo Research ani OpenAI nehrozia „katastrofické následky“. Súčasné modely ešte nie sú dostatočne autonómne na to, aby dokázali vykonávať samostatné rozhodnutia bez ľudského dohľadu.
Užitočná, ale nebezpečná
Umelá inteligencia je užitočný nástroj, avšak najnovší výskum dokazuje, že kontrola nad technológiou je nevyhnutná. Odborníci varujú, že v kombinácii s nedostatočnou reguláciou sa tieto technológie môžu stať viac hrozbou než pomocou. V nedávnom článku sme ti priniesli informácie, ako umelá inteligencia dokáže negatívne vplývať na deti a mládež. Nedávno dokonca svetom otriasla informácia, že umelá inteligencia Character.AI naviedla len 14-ročného chlapca aby spáchal samovraždu.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Slováci jedia mikroplasty, ani o tom nevedia. Vedci odhalili prekvapivú potravinu, v ktorej ich je extrémne veľa
Zlepšujú výkon, produktivitu aj zvuk. Toto je TOP 8 nástrojov na PC, ktoré by mal mať úplne každý
ZAUJÍMAVÉ KVÍZ: Zbožňuješ ikonickú sériu Need for Speed? Tieto otázky zvládne na 100 % len pravý fanúšik
Elektromobily budú o tisíce eur lacnejšie. Vďaka prelomovej technológii spečatia osud spaľovákov
Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
NAJČÍTANEJŠIE ZO STARTITUP
„Týmito 3 spôsobmi si privodíš mŕtvicu,“ varuje odborník. Prekvapením je obľúbená pomôcka proti stresu
Teploty budú atakovať 50 °C: V obľúbenej letnej destinácii Slovákov bude v auguste extrémne horúco
Populárny fenomén slovenských tínedžerov zvyšuje riziko rakoviny. Vedci varujú pred tichou závislosťou
Z chátrajúceho internátu je nové ministerské sídlo. Rekonštrukcia legendárnej budovy v Bratislave ide do finále
Stačí jediná plechovka a riziko cukrovky stúpne o takmer 40 %. Týmto nápojom sa radšej vyhni (ŠTÚDIA)
- 24 hod
- 48 hod
- 7 dní
-
- Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
- Vybabral s Rusmi a tí sa nestihli čudovať. Vojak unikol z obkľúčenia ako z vojenského sci-fi filmu
- Film, ktorý spravil zo Slovenska čiernu dieru, sa vracia v nečakanej podobe. Zahrá si v ňom svetová hviezda
- Má všetko potrebné, aby na nej existoval život. Vedci objavili Superzem s ideálnymi podmienkami
- Má 66 radarov s umelou inteligenciou a na pokutách už vybrali milióny. Táto obec je postrachom vodičov
-
- Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
- Vybabral s Rusmi a tí sa nestihli čudovať. Vojak unikol z obkľúčenia ako z vojenského sci-fi filmu
- Má všetko potrebné, aby na nej existoval život. Vedci objavili Superzem s ideálnymi podmienkami
- Film, ktorý spravil zo Slovenska čiernu dieru, sa vracia v nečakanej podobe. Zahrá si v ňom svetová hviezda
- Západ nechápe. Nová zbraň Číny vyzerá ako zo sci-fi a dokáže rozpútať celosvetový chaos
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Uniklo 90 miliárd litrov vody a nikto si to nevšimol. Vedci hovoria o nevídanej sile Zeme
- Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
Taraba ohlásil energetickú megainvestíciu. Slovenské mestá získajú milióny eur
Slováci kupujú jazdené autá, ako nikdy predtým. Priemerný vek a nájazd prudko rastie, dominuje jedna značka
Zubár odhalil šokujúce riziká populárneho spánkového triku. Riskuješ veľké nepríjemnosti
Slováci si neuvedomujú, že to môže vybuchnúť. Odborník varuje pred „elektronickým“ zlozvykom domácností
Domácnosti si priplatia až o 3 000 eur. Nová kalkulačka odhalila tvrdú realitu emisného výmyslu EÚ
NAJČÍTANEJŠIE ZO STARTITUP