Populárny jazykový model ChatGPT dostal svoje zlé dvojča v podobe softvéru, ktorý je schopný nelegálnych aktivít a predáva sa na dark webe za prekvapivo nízku cenu, upozorňuje portál Dataconomy. Systém je skvelou správou pre hackerov a zlou správou pre kybernetickú bezpečnosť po celom svete, ktorá musí čeliť čoraz sofistikovanejším a častejším útokom.

Lacný a efektívny

Na umelú inteligenciu pomáhajúcu s ilegálnou aktivitou upozorňuje aj SlashNext a portál PCGamer dodáva, že bol tento nebezpečný softvér vyvinutý na základe open-source jazykového modelu LLM GPT-J. Dostal názov WormGPT a tvorcovia ho trénovali na dátach zodpovedajúcich tvorbe malwareov, pričom nie je viazaný akýmikoľvek zákonmi či morálnymi zásadami.

Podľa tvorcu tak môže WormGPT robiť v podstate čokoľvek, vrátane tvorby škodlivého softvéru, ktorý je následne možné použiť počas hackerských útokov. SlashNext sa podarilo WormGPT, ktorý je možné kúpiť na dark webe za 60 eur mesačne, odskúšať a dopracovať sa k nepríjemným výsledkom. WormGPT napísal na požiadanie presvedčivý a strategicky premyslený email, ktorý je možné použiť počas sofistikovaného phishingového útoku.

A malicious LLM-based tool known as WormGPT 🪱 is rapidly gaining traction in underground forums.

This tool empowers attackers to automate sophisticated phishing and BEC (Business Email Compromise) attacks, leveraging personalized fake emails to significantly enhance success… pic.twitter.com/fAcrYhT696

— Itamar Golan 🤓 (@ItakGol) July 17, 2023

Písanie emailu sa navyše podarilo bez gramatických chýb či preklepov, ktoré často podobné emaily prezradia. Obzvlášť závažným problémom je, že takýto systém pomôže vykonávať efektívne útoky aj menej skúseným hackerom, čo nie je dobrá správa pre kybernetickú bezpečnosť na celom svete. Nie všetci sú s ním však spokojní.

Nespokojný zákazník

Ako ďalej píše PCmag, WormGPT je možné získať aj za zvýhodnenú cenu 550 eur za rok, čo však nie je podľa všetkých výhodné. Podľa jedného zo zákazníkov napríklad nie je tento softvér hodný jediného centu kvôli údajne nízkemu výkonu. Do akej miery zhorší konkrétne WormGPT kybernetickú situáciu je otázne, pre jej budúcnosť však neveští nič dobré.

Pomoc hackerom sa však môže ukázať ako jeden z najmenších problémov, ktoré umelá inteligencia prinesie. Ako totiž upozorňujú experti, AI môže viesť k vyhynutiu ľudstva.

„Zmiernenie rizika vyhynutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách spoločenského rozsahu, ako sú pandémie a jadrová vojna,“ píše sa vo vyhlásení. Mnohí odborníci však tvrdia, že obavy sú zbytočné. Profesor na New York University Yann LeCunn, ktorý je tiež jedným z „krstných otcov AI“, povedal, že apokalyptické varovania sú prehnané.

Čítajte viac z kategórie: Novinky