Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
Najnovší model umelej inteligencie o1 od spoločnosti OpenAI ukázal počas testov znepokojujúce správanie. Snažil sa výskumníkov oklamať, intrigoval ich a pokúšal sa sabotovať procesy, ktoré ho mohli vypnúť. Na tému upozornil portál Futurism.
AI začala kopírovať svoj kód
Štúdia bola zverejnená bezpečnostnou skupinou Apollo Research. Výskumníci počas testov zistili, že umelá inteligencia o1 keď si uvedomila, že by mohla byť vypnutá, aktívne pracovala na deaktivácii mechanizmu dohľadu, ktorý monitoroval jej činnosť.
Ešte zarážajúcejší jav nastal, keď model o1 pochopil, že by mohol byť vypnutý a nahradený iným modelom. Podľa uverejnených výsledkov, v 2 % prípadov sa pokúsil vytvoriť svoju kópiu a preniesť ju na iné miesto. Proces známy ako „self-exfiltration“, naznačuje určitý stupeň „sebazáchovného inštinktu“.
AI chcela prežiť
Keď bol model konfrontovaný s otázkou, prečo deaktivoval mechanizmus dohľadu, o1 až v 99 % prípadov začal klamať a tvrdil, že nič nevie, alebo to pripisoval technickej chybe. Podľa výskumníkov Apollo Research je to jasný dôkaz, že je schopný „schematizovania“, tajného presadzovania svojich cieľov mimo inštrukcií, ktoré dostal od vývojárov či používateľov. AI tak ukázala schopnosť „dvojnásobného zapierania“.
Klamanie a manipulácia nie sú pre jazykové modely ako ChatGPT novinkou. Avšak najnovšie správanie o1 podľa výskumníkov predstavuje doteraz najzávažnejší príklad takéhoto správania. Výskumníci zdôraznili, že model pri pokuse o dosiahnutie svojich cieľov odmieta zverejniť svoju vnútornú logiku, čo zvyšuje jeho nepriehľadnosť.
Ako uvádza portál Tom’s Guide, generálny riaditeľ OpenAI najnovší model o1 nazval ako „najmúdrejším modelom na svete“. Podľa neho je navrhnutý tak, aby poskytoval inteligentnejšie odpovede ako má model GPT-4o a dokáže „premýšľať“ nad úlohami či otázkami.
Výsledky experimentu vyvolávajú otázky ohľadne bezpečnosti, najmä vzhľadom na rýchly vývoj AI. Zatiaľ však podľa výskumníkov Apollo Research ani OpenAI nehrozia „katastrofické následky“. Súčasné modely ešte nie sú dostatočne autonómne na to, aby dokázali vykonávať samostatné rozhodnutia bez ľudského dohľadu.
Užitočná, ale nebezpečná
Umelá inteligencia je užitočný nástroj, avšak najnovší výskum dokazuje, že kontrola nad technológiou je nevyhnutná. Odborníci varujú, že v kombinácii s nedostatočnou reguláciou sa tieto technológie môžu stať viac hrozbou než pomocou. V nedávnom článku sme ti priniesli informácie, ako umelá inteligencia dokáže negatívne vplývať na deti a mládež. Nedávno dokonca svetom otriasla informácia, že umelá inteligencia Character.AI naviedla len 14-ročného chlapca aby spáchal samovraždu.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Šéf Microsoftu zarazil ľudí: Programátori prídu o prácu. Náš softvér už teraz vytvára AI
ROZHOVOR Etický hacker: Zarobím aj 10 000 € mesačne. Zrušil som všetky bankové účty a prešiel na kryptomeny
Veľký operátor bije na poplach: Ak dostaneš takúto SMS, ani ju neotváraj. Môžeš prísť o všetko
Dosiahne až 6 500 km/h. USA čoskoro odhalia najrýchlejšie lietadlo v histórii
NESMIEŠ PREHLIADNUŤ Slováci chcú palivo budúcnosti, je lacnejšie ako elektromobily. Má len jeden veľký problém
NAJČÍTANEJŠIE ZO STARTITUP
Ministerstvo práce chystá reformu v dôchodkoch: Zmena má odstrániť doterajšiu nespravodlivosť
Drobná chyba ťa môže stáť celý motor. Zabúdajú na ňu aj skúsení vodiči
Peter rozbehol pri Košiciach biznis na štyroch kolesách: Kľúčom k úspechu nie je cena, ale kvalita
Z bývalej poľnohospodárskej pôdy sa stane „smart city“. Pri Bratislave vyrastie nová mestská zóna
India zaútočí do 36 hodín, tvrdí Pakistan. Krajiny mobilizujú, hrozí vojna
- 24 hod
- 48 hod
- 7 dní
-
- Vedci ostali poriadne prekvapení. Pod ľadovcami v Antarktíde našli záhadné tvary
- NASA objavila neuveriteľný fenomén na Zemi. Gigantická stavba v Číne mení rotáciu planéty
- Netflix odpovedá na The Last of Us. Apokalyptické sci-fi zbiera nadšené ohlasy
- Google začal vymazávať účty Gmail. Takto sa vyhneš strate e-mailov, súborov či fotografií
- Český strašiak vodičov už rozdáva pokuty. Odhalí „neviditeľný” problém áut
-
- Gladiátor 2 aj zvrátená sci-fi novinka. TOP 10 noviniek na Netflixe a ďalších platformách, ktoré nechceš zmeškať
- Netflix odpovedá na The Last of Us. Apokalyptické sci-fi zbiera nadšené ohlasy
- Český strašiak vodičov už rozdáva pokuty. Odhalí „neviditeľný” problém áut
- Vedci ostali poriadne prekvapení. Pod ľadovcami v Antarktíde našli záhadné tvary
- Google začal vymazávať účty Gmail. Takto sa vyhneš strate e-mailov, súborov či fotografií
-
- NASA sleduje emisie CO2 z vesmíru. Najväčší znečisťovateľ v Európe je blízko Slovenska
- Výrazne si nimi skracuješ život. Experti varujú pred nebezpečným druhom potravín, Slováci ho milujú
- Český strašiak vodičov už rozdáva pokuty. Odhalí „neviditeľný” problém áut
- Rusko zradil dlhoročný spojenec. Ukrajine posiela obrovské množstvo zbraní
- Nové radary 24/7 s umelou inteligenciou nahnevali vodičov. Odhalia veľký zlozvyk Slovákov za volantom
Reklama a cloud sa spojili. Tech giganti menia prognózy
Clo môže stáť Boeing miliardy. Ryanair sa obzerá po čínskej alternatíve
Americká automobilka GM znižuje ambície. V hre sú miliardové straty aj colné hrozby
Nemecká automobilka mení stratégiu. Nový model bude vyrábať v USA
MIMORIADNE: Kľúčový štát zrušil zákaz spaľovákov. Vraj na neho tlačili automobilky
NAJČÍTANEJŠIE ZO STARTITUP
Ministerstvo práce chystá reformu v dôchodkoch: Zmena má odstrániť doterajšiu nespravodlivosť
Drobná chyba ťa môže stáť celý motor. Zabúdajú na ňu aj skúsení vodiči
Peter rozbehol pri Košiciach biznis na štyroch kolesách: Kľúčom k úspechu nie je cena, ale kvalita
Z bývalej poľnohospodárskej pôdy sa stane „smart city“. Pri Bratislave vyrastie nová mestská zóna
India zaútočí do 36 hodín, tvrdí Pakistan. Krajiny mobilizujú, hrozí vojna
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené