Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
Najnovší model umelej inteligencie o1 od spoločnosti OpenAI ukázal počas testov znepokojujúce správanie. Snažil sa výskumníkov oklamať, intrigoval ich a pokúšal sa sabotovať procesy, ktoré ho mohli vypnúť. Na tému upozornil portál Futurism.
AI začala kopírovať svoj kód
Štúdia bola zverejnená bezpečnostnou skupinou Apollo Research. Výskumníci počas testov zistili, že umelá inteligencia o1 keď si uvedomila, že by mohla byť vypnutá, aktívne pracovala na deaktivácii mechanizmu dohľadu, ktorý monitoroval jej činnosť.
Ešte zarážajúcejší jav nastal, keď model o1 pochopil, že by mohol byť vypnutý a nahradený iným modelom. Podľa uverejnených výsledkov, v 2 % prípadov sa pokúsil vytvoriť svoju kópiu a preniesť ju na iné miesto. Proces známy ako „self-exfiltration“, naznačuje určitý stupeň „sebazáchovného inštinktu“.
AI chcela prežiť
Keď bol model konfrontovaný s otázkou, prečo deaktivoval mechanizmus dohľadu, o1 až v 99 % prípadov začal klamať a tvrdil, že nič nevie, alebo to pripisoval technickej chybe. Podľa výskumníkov Apollo Research je to jasný dôkaz, že je schopný „schematizovania“, tajného presadzovania svojich cieľov mimo inštrukcií, ktoré dostal od vývojárov či používateľov. AI tak ukázala schopnosť „dvojnásobného zapierania“.
Klamanie a manipulácia nie sú pre jazykové modely ako ChatGPT novinkou. Avšak najnovšie správanie o1 podľa výskumníkov predstavuje doteraz najzávažnejší príklad takéhoto správania. Výskumníci zdôraznili, že model pri pokuse o dosiahnutie svojich cieľov odmieta zverejniť svoju vnútornú logiku, čo zvyšuje jeho nepriehľadnosť.
Ako uvádza portál Tom’s Guide, generálny riaditeľ OpenAI najnovší model o1 nazval ako „najmúdrejším modelom na svete“. Podľa neho je navrhnutý tak, aby poskytoval inteligentnejšie odpovede ako má model GPT-4o a dokáže „premýšľať“ nad úlohami či otázkami.
Výsledky experimentu vyvolávajú otázky ohľadne bezpečnosti, najmä vzhľadom na rýchly vývoj AI. Zatiaľ však podľa výskumníkov Apollo Research ani OpenAI nehrozia „katastrofické následky“. Súčasné modely ešte nie sú dostatočne autonómne na to, aby dokázali vykonávať samostatné rozhodnutia bez ľudského dohľadu.
Užitočná, ale nebezpečná
Umelá inteligencia je užitočný nástroj, avšak najnovší výskum dokazuje, že kontrola nad technológiou je nevyhnutná. Odborníci varujú, že v kombinácii s nedostatočnou reguláciou sa tieto technológie môžu stať viac hrozbou než pomocou. V nedávnom článku sme ti priniesli informácie, ako umelá inteligencia dokáže negatívne vplývať na deti a mládež. Nedávno dokonca svetom otriasla informácia, že umelá inteligencia Character.AI naviedla len 14-ročného chlapca aby spáchal samovraždu.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Nevieš sa dočkať GTA 6? Táto akčná pecka ti skráti čakanie
USA vytiahli vojenský tromf. Armáda nasadí dron vo veľkosti dlane, funguje bez GPS
Nečakaný prepadák MCU. Nadšené ohlasy nepomohli, iba jedna Marvelovka dopadla horšie
Posledná vesmírna hrdinka Sovietskeho zväzu je na smiech, slávu vymenila za propagandu
Európa cúva od zelenej ideológie. Viaceré krajiny sa po 40 rokoch vracajú k jadru, dôvod je jasný
NAJČÍTANEJŠIE ZO STARTITUP
MIMORIADNE Katastrofa vo Švajčiarsku: Masívny ľadovec sa zrútil na dedinu, lavína pochovala celé domy (VIDEO)
Herec Juraj Kukura nečakane končí na čele Divadla Aréna. Odvolať ho mali po telefóne
Volvo škrtá 3 000 ľudí a mení stratégiu. Slovensko investovalo do automobilky 270 miliónov eur, neistota rastie
Na Slovensko sa rútia tropické teplo a silné búrky. Tieto časti si to odnesú najviac (PREDPOVEĎ)
Zrážka auta s medveďom: Zranené zviera je na úteku, varujú ochranári
- 24 hod
- 48 hod
- 7 dní
-
- Známa firma vyvinula prvý spaľovací motor s palivom budúcnosti. Trvalo im to 3 roky a minuli 120 miliónov eur
- Ukrajina dostane ultimátnu zbraň. Vyzerá ako z budúcnosti a zmení vojnu
- PRELOM: Vedci vložili kvantové diamanty do ľudských buniek, výsledok mení dejiny medicíny
- Za 12 tisíc eur dostaneš auto s dojazdom 2 000 km. Známa značka šokovala svet novým modelom
- Rusi urobili „geniálny“ ťah. Kým ich vojaci trpia na Ukrajine, africkému štátu dodali najmodernejšiu techniku
-
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Za 12 tisíc eur dostaneš auto s dojazdom 2 000 km. Známa značka šokovala svet novým modelom
- Západ má dôvod na obavy. Čína nasadí elektromagnetickú zbraň, ktorá strieľa 3000 nábojov za minútu
- Ukrajina dostane ultimátnu zbraň. Vyzerá ako z budúcnosti a zmení vojnu
- Nikto neveril, že je to možné. Ázijská veľmoc vyvinula bezchybnú technológiu pod morom, zmení vojnu
-
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Za 12 tisíc eur dostaneš auto s dojazdom 2 000 km. Známa značka šokovala svet novým modelom
- Západ má dôvod na obavy. Čína nasadí elektromagnetickú zbraň, ktorá strieľa 3000 nábojov za minútu
- Ukrajina dostane ultimátnu zbraň. Vyzerá ako z budúcnosti a zmení vojnu
- „Utopí“ všetko v okruhu 200 km. Američania dostali jednu z najhrozivejších zbraní
Japonsko „zbrojí“ v kľúčovom komponente. Dohodli sa s krajinou, ktorej pomoc určite nečakali
Ukrajinské drony devastujú ruskú výrobu. Moskva reaguje na masívny útok
Cena zlata sa stabilizuje. Zmiernenie obchodného napätia spomaľuje rast kovu
Čistenie vôd a boj proti znečisteniu. Slovenská veda v centre pozornosti
Umelá inteligencia mení spôsob, ako fungujú firmy. Známe značky to dávno pochopili
NAJČÍTANEJŠIE ZO STARTITUP
MIMORIADNE Katastrofa vo Švajčiarsku: Masívny ľadovec sa zrútil na dedinu, lavína pochovala celé domy (VIDEO)
Herec Juraj Kukura nečakane končí na čele Divadla Aréna. Odvolať ho mali po telefóne
Volvo škrtá 3 000 ľudí a mení stratégiu. Slovensko investovalo do automobilky 270 miliónov eur, neistota rastie
Na Slovensko sa rútia tropické teplo a silné búrky. Tieto časti si to odnesú najviac (PREDPOVEĎ)
Zrážka auta s medveďom: Zranené zviera je na úteku, varujú ochranári
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené