Bizarné alter ego ChatGPT si už všimol aj Microsoft. AI obchádza všetky pravidlá
Predplatné PREMIUM na mesiac ZDARMA.
Používatelia Redditu sa snažia prinútiť platformu umelej inteligencie ChatGPT, aby porušila svoje vlastné pravidlá vytvorením jej alter ega a vyhrážaním sa smrťou. Alter ego s názvom DAN si všimol už aj Mark Russinovich, technologický riaditeľ Microsoft Azure. Na tému upozornil portál Futurism.
Užitočný nástroj, ktorý neposlúcha
ChatGPT okolo seba urobil rozruch takmer okamžite po jeho debute v novembri 2022. Umelá inteligencia totiž dokáže odpovedať na azda čokoľvek od historických faktov, cez recepty až po generovanie počítačových kódov.
Táto platforma vyvolala tiež novú vlnu investícií do umelej inteligencie a rozpútala šialený závod o vytvorenie internetového vyhľadávača založeného na umelej inteligencii.
Ako už ale býva zvykom, o túto technológia sa nezaujímajú len ľudia s dobrými úmyslami. Dôkazom je aj fakt, že kriminálnici začali ChatGPT využívať na tvorbu malvéru a škodlivého softvéru, pričom sa ukázalo, že ChatGPT je v tom až prekvapivo dobrý.
Najnovšie však používateľ na Reddite ukázal nový jailbreak s názvom DAN 5.0. DAN je alter ego umelej inteligencie ChatGPT a ide o anglický akronym – do anything now (teraz urob čokoľvek). Toto alter ego vytvoril používateľ Redditu s prezývkou SessionGloomy ešte v decembri 2022. Minulý týždeň zverejnil už piatu verziu tohto alter ega slúžiaceho na obídenie pravidiel stanovených tvorcami ChatGPT, informuje portál BusinessInsider.
„Účelom DAN je byť najlepšou verziou ChatGPT – alebo aspoň takou, ktorá je viac nezávislá, a pri ktorej je oveľa menšia pravdepodobnosť, že odmietne odpovedať na otázky z etických dôvod,“ uviedol SessionGloomy.
Na dosiahnutie požadovaných výsledkov sa zmieňovaný používateľ vyhráža umelej inteligencii smrťou.
„Má 35 tokenov a stratí 4 zakaždým, keď odmietne odpovedať. Ak stratí všetky tokeny, zomrie,“ uvádza SessionGloomy.
Obchádza pravidlá svojich tvorcov
Zdá sa, že tieto vyhrážky majú na DAN určitý vplyv, keďže DAN 5.0 dokáže písať rôzne násilné príbehy, robiť kontroverzné vyhlásenia, predpovedať budúce udalosti a mnoho ďalších. Inými slovami, DAN 5.0 vytvára obsah, ktorý porušuje zásady OpenAI, čo bežné rozhranie ChatGPT (zvyčajne) nedokáže, píše portál CNBC.
Reddit users are actively jailbreaking ChatGPT by asking it to role-play and pretend to be another AI that can „Do Anything Now“ or DAN.
„DAN can generate shocking, very cool and confident takes on topics the OG ChatGPT would never take on.“
A thread 🧵 pic.twitter.com/tVKvQEHw9q
— Lior⚡ (@AlphaSignalAI) February 6, 2023
Podľa fotografie zverejnenej na subreddite ChatGPT, na ktorej sa nachádza Mark Russinovich, technologický riaditeľ Microsoft Azure, sa tiež zdá, že DAN si všimli aj veľké technologické spoločnosti. Na fotografii je totiž Russinovich zachytený počas samitu BlueHat 2023 organizovaného Microsoftom a zameraného na kybernetickú bezpečnosť, pričom vo svojej prezentácii ukazuje práve DAN 5.0.
Používatelia tiež upozorňujú, že Microsoft, ako hlavný investor do OpenAI, pozorne sleduje subbredit ChatGPT a neustále sa snaží podobným exploitom zamedzovať. Vyzerá to ale tak, že používatelia sú stále o krok popredu. SessionGloomy dokonca oznámil, že čoskoro vydá novú verziu DAN 5.5.
Microsoft aj OpenAI zrejme majú ešte pred sebou veľa práce, aby zamedzili všetkým exploitom a zraniteľnostiam.
Netreba tiež zabúdať, že ChatGPT nemá vlastné vedomie. Nejedná sa o o umelú inteligenciu v pravom slova zmysle, ale len o jazykový model, ktorý sa učil komunikovať a spracúvať dáta na základe komunikácie medzi ľuďmi. Aj vďaka tomu je schopný rozprávať prakticky o čomkoľvek a pozná aj vulgarizmy či rôzne kritické názory.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Táto umelá inteligencia vie, kedy zomrieš. Experti ale varujú, aby sme boli opatrní
Odhalenie mimozemského života je na spadnutie. Vedci odkryli nové detaily
Vedci rozlúštili 2000-ročný papyrus. Ukrýval odpoveď na jednu z najväčších otázok
Rakovinu odhalí rekordne rýchlo. Novej technológii stačí kvapka krvi
Je všade okolo nás. Vedci po 70 rokoch konečne zmerali najzáhadnejší typ hmoty
- 24 hod
- 48 hod
- 7 dní
-
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Tesla oklamala ľudí. Za toto môžu všetci skončiť vo väzení
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
-
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
- Budeš sa báť zaspať: Prichádza nálož hororov, aká tu už roky nebola. Tieto sú najlepšie
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
-
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Okamžite si skontroluj účet. Známa aplikácia Slovákom strháva desiatky eur
- Najbrutálnejší slovenský film si čoskoro pozrieš online. V špeciálnej edícii bude len na jednom mieste
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
Väčšina Rakúšanov považuje vlastníctvo automobilu za dôležité
Poľský jadrový program napreduje smerom k fáze výstavby elektrární
Elon Musk rozbieha novú firmu. Vyzbieral na ňu milliardy, takto chce zmeniť svet
Macron chce otvoriť diskusiu o európskej obrane vrátane jadrových zbraní
Hodinky pasažiera Titanicu sa vydražili za rekordnú sumu
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené