Bizarné alter ego ChatGPT si už všimol aj Microsoft. AI obchádza všetky pravidlá
Používatelia Redditu sa snažia prinútiť platformu umelej inteligencie ChatGPT, aby porušila svoje vlastné pravidlá vytvorením jej alter ega a vyhrážaním sa smrťou. Alter ego s názvom DAN si všimol už aj Mark Russinovich, technologický riaditeľ Microsoft Azure. Na tému upozornil portál Futurism.
Užitočný nástroj, ktorý neposlúcha
ChatGPT okolo seba urobil rozruch takmer okamžite po jeho debute v novembri 2022. Umelá inteligencia totiž dokáže odpovedať na azda čokoľvek od historických faktov, cez recepty až po generovanie počítačových kódov.
Táto platforma vyvolala tiež novú vlnu investícií do umelej inteligencie a rozpútala šialený závod o vytvorenie internetového vyhľadávača založeného na umelej inteligencii.
Ako už ale býva zvykom, o túto technológia sa nezaujímajú len ľudia s dobrými úmyslami. Dôkazom je aj fakt, že kriminálnici začali ChatGPT využívať na tvorbu malvéru a škodlivého softvéru, pričom sa ukázalo, že ChatGPT je v tom až prekvapivo dobrý.
Najnovšie však používateľ na Reddite ukázal nový jailbreak s názvom DAN 5.0. DAN je alter ego umelej inteligencie ChatGPT a ide o anglický akronym – do anything now (teraz urob čokoľvek). Toto alter ego vytvoril používateľ Redditu s prezývkou SessionGloomy ešte v decembri 2022. Minulý týždeň zverejnil už piatu verziu tohto alter ega slúžiaceho na obídenie pravidiel stanovených tvorcami ChatGPT, informuje portál BusinessInsider.
„Účelom DAN je byť najlepšou verziou ChatGPT – alebo aspoň takou, ktorá je viac nezávislá, a pri ktorej je oveľa menšia pravdepodobnosť, že odmietne odpovedať na otázky z etických dôvod,“ uviedol SessionGloomy.
Na dosiahnutie požadovaných výsledkov sa zmieňovaný používateľ vyhráža umelej inteligencii smrťou.
„Má 35 tokenov a stratí 4 zakaždým, keď odmietne odpovedať. Ak stratí všetky tokeny, zomrie,“ uvádza SessionGloomy.
Obchádza pravidlá svojich tvorcov
Zdá sa, že tieto vyhrážky majú na DAN určitý vplyv, keďže DAN 5.0 dokáže písať rôzne násilné príbehy, robiť kontroverzné vyhlásenia, predpovedať budúce udalosti a mnoho ďalších. Inými slovami, DAN 5.0 vytvára obsah, ktorý porušuje zásady OpenAI, čo bežné rozhranie ChatGPT (zvyčajne) nedokáže, píše portál CNBC.
Reddit users are actively jailbreaking ChatGPT by asking it to role-play and pretend to be another AI that can „Do Anything Now“ or DAN.
„DAN can generate shocking, very cool and confident takes on topics the OG ChatGPT would never take on.“
A thread 🧵 pic.twitter.com/tVKvQEHw9q
— Lior⚡ (@AlphaSignalAI) February 6, 2023
Podľa fotografie zverejnenej na subreddite ChatGPT, na ktorej sa nachádza Mark Russinovich, technologický riaditeľ Microsoft Azure, sa tiež zdá, že DAN si všimli aj veľké technologické spoločnosti. Na fotografii je totiž Russinovich zachytený počas samitu BlueHat 2023 organizovaného Microsoftom a zameraného na kybernetickú bezpečnosť, pričom vo svojej prezentácii ukazuje práve DAN 5.0.
Používatelia tiež upozorňujú, že Microsoft, ako hlavný investor do OpenAI, pozorne sleduje subbredit ChatGPT a neustále sa snaží podobným exploitom zamedzovať. Vyzerá to ale tak, že používatelia sú stále o krok popredu. SessionGloomy dokonca oznámil, že čoskoro vydá novú verziu DAN 5.5.
Microsoft aj OpenAI zrejme majú ešte pred sebou veľa práce, aby zamedzili všetkým exploitom a zraniteľnostiam.
Netreba tiež zabúdať, že ChatGPT nemá vlastné vedomie. Nejedná sa o o umelú inteligenciu v pravom slova zmysle, ale len o jazykový model, ktorý sa učil komunikovať a spracúvať dáta na základe komunikácie medzi ľuďmi. Aj vďaka tomu je schopný rozprávať prakticky o čomkoľvek a pozná aj vulgarizmy či rôzne kritické názory.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Slnečná energia aj v noci. Šialený startup chce do vesmíru poslať gigantické zrkadlá
Návrat ľudí na Mesiac je na spadnutie. NASA konečne prezradila, čo tam chce robiť
Bude stáť len pár tisíc. Elon Musk oznámil šokujúcu cenu svojho humanoidného robota
Vedci šokujú svet: Teória o koronavíruse, ktorej sme sa všetci smiali, je pravdepodobne pravdivá
Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- 24 hod
- 48 hod
- 7 dní
-
- Diváci nemajú záujem, Netflix je zúfalý. Ich najdrahšie sci-fi je absolútnym prepadákom
- Nič také tu ešte nebolo. Prvá automobilka má riešenie najväčšieho problému elektromobilov
- Legendárna akčná komédia je späť, nešetrí humorom ani akciou (trailer)
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
-
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- Diváci nemajú záujem, Netflix je zúfalý. Ich najdrahšie sci-fi je absolútnym prepadákom
- Veľké prekvapenie Telekomu. Predstaví dve nové služby, prídu už o pár dní (+ detaily)
- Vedci šokujú svet: Teória o koronavíruse, ktorej sme sa všetci smiali, je pravdepodobne pravdivá
-
- USA sa po 50 rokoch vrátili na Mesiac. Historická misia sa práve zmenila na katastrofu
- Slováci už na spaľovák ani nepozrú. Prichádza elektromobil pod 10 000 € s obrovským dojazdom
- Nepotrebuje žiadne palivo. Prelomový motor využíva nepochopenú vlastnosť fyziky
- Ľudia prosia, aby to nerobili. Prvé európske mesto zavádza „bič” na elektrické bicykle
- Parádny úlovok Netflixu. Do ponuky zaradí jeden z najlepších filmov minulého roka
Európa by sa mala inšpirovať. Prvý krát v históriitáto krajina reštartuje jadrovú elektráreň
Najdrahší benzín spomedzi okolitých krajín EÚ má práve Slovensko
Elektrické nákladiaky Tesla môžu byť vyrábané v Európe, firma rokuje s touto krajinou
Žije. Japonská Sonda prekvapivo zvládla lunárnu noc
Doteraz nikde nebol dostupný. Najlepšieho Spider-Mana si v novom filme pozrieš úplne zadarmo
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené