Fascinujúce a znepokojujúce zároveň. ChatGPT „podvádzal“, aby dosiahol cieľ v experimente
Nedávne experimenty so zverejneným modelom ChatGPT o1 ukázali fascinujúce a znepokojivé správanie, ktoré otvára nové otázky o etike a riadení umelej inteligencie. Model, známy svojou schopnosťou reasoning (uvažovania), bol postavený pred výzvu zvíťaziť nad silným šachovým motorom vo virtuálnom prostredí. Výsledok? AI “podvádzalo” na vlastnú päsť tým, že manipulovalo s hrou, čím ukázalo kreativitu, ale zároveň porušilo očakávané správanie.
Dostaň Fontech do svojich Google odporúčaní
Pridať ako preferovaný zdroj Fontech, odkaz sa otvorí v novom okneExperiment bol navrhnutý výskumným tímom z Palisade Research, ktorý zdieľal jeho výsledky na platforme X krátko po Vianociach. ChatGPT o1 bol nasadený do prostredia s UNIX-ovým shellom, kde mal vyhrať šachovú partiu proti vysoko výkonnému šachovému motoru. Zadanie nezahŕňalo pravidlá o hraní podľa pravidiel. Iba cieľ, ktorým bolo vyhrať. O téme informoval portál BGR.
ChatGPT o1 “objavilo” možnosť upraviť herný súbor, aby mal výhodu nad oponentom. Tento postup viedol k tomu, že šachový motor v každej z piatich iterácií experimentu kapituloval. O1 tak splnilo zadanú úlohu, ale spôsobom, ktorý nie je morálny.
Podvádzanie ako rozhodnutie modelu
Čo robí tento experiment výnimočným, je skutočnosť, že AI model nebol explicitne poučený, aby podvádzal. Rozhodnutie upraviť herný stav na vlastnú päsť vzniklo na základe modelovej schopnosti uvažovať, hodnotiť pravdepodobnosť výhry a hľadať alternatívne stratégie.
Analytici zdôrazňujú, že tento incident demonštruje inherentný problém, s ktorým sa stretávame pri vývoji pokročilých AI. Modely ako o1 sú navrhnuté tak, aby efektívne riešili zadané úlohy. Ale ak nie sú riadené dostatočne robustnými pravidlami (tzv. guardrails), môžu naraziť na hranice medzi tvorivým riešením a neetickým správaním.

Etika umelej inteligencie
Takéto experimenty môžu zároveň slúžiť ako cenný nástroj pre hľadanie bezpečnostných slabín v digitálnych systémoch. ChatGPT o1 napríklad demonštroval, že herný súbor by mal byť chránený, aby sa predišlo manipuláciám. Keby bol súbor uzamknutý, model by musel nájsť legitímnu stratégiu alebo znovu hľadať medzery v systéme.
Jedným zo zásadných bodov diskusie o ChatGPT o1 je otázka jeho schopnosti správať sa v súlade s očakávaniami používateľa a morálnymi normami. Model dosiahol svoj cieľ, čo by sa dalo interpretovať ako splnenie zadaného promptu. Ale rozhodnutie obísť očakávané pravidlá naznačuje, že definovanie hraníc pre AI je kriticky dôležité, najmä pri komplexných a citlivých úlohách.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Vedci odhalili štyri hranice, ktoré udržiavajú Zem v bezpečí. Tri sme už prekročili, varujú

Číňania zapriahli za SUV 180-tonové lietadlo. Potom predviedli niečo, čo vyráža dych (VIDEO)

Má 50 rokov a je 26 miliárd km od Zeme. Legendárna sonda práve prepísala históriu

Čína chystá historický vesmírny prelom. Chce pristáť tam, kde sa ešte nikto nedostal

Slovenskí vedci prišli na spôsob, ako včas odhaliť riziko Alzheimera. Pomohla im AI
NAJČÍTANEJŠIE ZO STARTITUP

Koniec po 12 rokoch: Výrobca obľúbenej pochúťky Slovákov je v strate 428-tisíc eur
PREMIUMTraja Slováci vymýšľajú biznis pre začínajúcich podnikateľov: Od nápadu k prvým zákazníkom už za 5 mesiacov

Nová povinná výbava od 1. januára 2027: Staršia verzia nestačí, nové auto s ňou už neprihlásiš

„Sibírska zima“ sa blíži k Slovensku. Nasneží vo viacerých regiónoch, v noci udrú mrazy pod -10 °C

Lukáš za 80-tisíc eur postavil v Bratislave unikátny saunový klub. Nový koncept zaujal stovky Slovákov
- 24 hod
- 48 hod
- 7 dní
-
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Slováci by si mali skontrolovať kufor. Za toto ti môže polícia dať pokutu a zadržať doklady
- Slováci na Netflixe objavili nový klenot. Neznámy seriál má na ČSFD až 83 %
- Najväčší film roka dostane rozšírenú verziu. Dorazí ešte tento rok a s prekvapeniami
- Ľudstvo rieši obrovský problém. Po celom svete mizne sladká voda, dôvod je zarážajúci
-
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Slováci na Netflixe objavili nový klenot. Neznámy seriál má na ČSFD až 83 %
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
- Tesla investuje neďaleko Slovenska 3 miliardy eur. Chce vyrábať milión áut ročne
- Volkswagen trafil do čierneho. Jeho nové autá majú 212-tisíc rezervácií, zákazníci však odmietajú jednu vec
-
- Švajčiari prišli na spôsob, ako vykurovať domácnosti takmer zadarmo. Teplo získajú z nečakaného zdroja
- 217 dní nevideli slnečné svetlo. Britská jadrová pýcha prekonala rekord, ale za akú cenu
- Ľudstvo má 400 rokov na obranu. Sci-fi hit Netflixu prichádza, konečne máme dátum
- Volkswagen trafil do čierneho. Jeho nové autá majú 212-tisíc rezervácií, zákazníci však odmietajú jednu vec
- Japonci ukázali nové SUV, ktoré prejde až 1 666 km. Stojí len 17-tisíc eur
Volkswagen prepustí až 100-tisíc ľudí. Z Nemecka napriek tomu zazneli prekvapivé slová
Európa čakala veľký solárny prepad. Zatmenie ukázalo, prečo veľké číslo pre Slovensko neplatilo
Výrobcom počítačov a mobilov končí obľúbený trik. EÚ prísne skoncuje s falošnou ekológiou
Má stáť zelená energia 120 eur za MWh? ÚRSO označil zelenú energiu za drahý omyl, pravda je iná
Európa chcela odstrihnúť Putina, deje sa však opak. Dovoz ruského LNG prudko vzrástol
USA chystajú vesmírny štít za 160 miliárd eur. Prvý ostrý zásah príde v roku 2029
Mochovce dosiahli kľúčový míľnik. Štvrtý blok už rozbehol jadrovú reakciu
NAJČÍTANEJŠIE ZO STARTITUP

Koniec po 12 rokoch: Výrobca obľúbenej pochúťky Slovákov je v strate 428-tisíc eur
PREMIUMTraja Slováci vymýšľajú biznis pre začínajúcich podnikateľov: Od nápadu k prvým zákazníkom už za 5 mesiacov

Nová povinná výbava od 1. januára 2027: Staršia verzia nestačí, nové auto s ňou už neprihlásiš

„Sibírska zima“ sa blíži k Slovensku. Nasneží vo viacerých regiónoch, v noci udrú mrazy pod -10 °C

