Populárny jazykový model ChatGPT dostal svoje zlé dvojča v podobe softvéru, ktorý je schopný nelegálnych aktivít a predáva sa na dark webe za prekvapivo nízku cenu, upozorňuje portál Dataconomy. Systém je skvelou správou pre hackerov a zlou správou pre kybernetickú bezpečnosť po celom svete, ktorá musí čeliť čoraz sofistikovanejším a častejším útokom.

Lacný a efektívny

Na umelú inteligenciu pomáhajúcu s ilegálnou aktivitou upozorňuje aj SlashNext a portál PCGamer dodáva, že bol tento nebezpečný softvér vyvinutý na základe open-source jazykového modelu LLM GPT-J. Dostal názov WormGPT a tvorcovia ho trénovali na dátach zodpovedajúcich tvorbe malwareov, pričom nie je viazaný akýmikoľvek zákonmi či morálnymi zásadami.

Podľa tvorcu tak môže WormGPT robiť v podstate čokoľvek, vrátane tvorby škodlivého softvéru, ktorý je následne možné použiť počas hackerských útokov. SlashNext sa podarilo WormGPT, ktorý je možné kúpiť na dark webe za 60 eur mesačne, odskúšať a dopracovať sa k nepríjemným výsledkom. WormGPT napísal na požiadanie presvedčivý a strategicky premyslený email, ktorý je možné použiť počas sofistikovaného phishingového útoku.

Písanie emailu sa navyše podarilo bez gramatických chýb či preklepov, ktoré často podobné emaily prezradia. Obzvlášť závažným problémom je, že takýto systém pomôže vykonávať efektívne útoky aj menej skúseným hackerom, čo nie je dobrá správa pre kybernetickú bezpečnosť na celom svete. Nie všetci sú s ním však spokojní.

Zvládol to aj ChatGPT

Ako sme informovali pred niekoľkými mesiacmi, ChatGPT sa podarilo použiť na tvorbu škodlivého softvéru už dávnejšie bez toho, aby bolo nutné zostrojiť jeho zlé dvojča. Prekvapením bolo, že softvér vytvorený týmto jazykovým modelom je funkčný a môže pomôcť s nelegálnou aktivitou aj amatérom.

Nespokojný zákazník

Ako ďalej píše PCmag, WormGPT je možné získať aj za zvýhodnenú cenu 550 eur za rok, čo však nie je podľa všetkých výhodné. Podľa jedného zo zákazníkov napríklad nie je tento softvér hodný jediného centu kvôli údajne nízkemu výkonu. Do akej miery zhorší konkrétne WormGPT kybernetickú situáciu je otázne, pre jej budúcnosť však neveští nič dobré.

Pomoc hackerom sa však môže ukázať ako jeden z najmenších problémov, ktoré umelá inteligencia prinesie. Ako totiž upozorňujú experti, AI môže viesť k vyhynutiu ľudstva.

„Zmiernenie rizika vyhynutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách spoločenského rozsahu, ako sú pandémie a jadrová vojna,“ píše sa vo vyhlásení. Mnohí odborníci však tvrdia, že obavy sú zbytočné. Profesor na New York University Yann LeCunn, ktorý je tiež jedným z „krstných otcov AI“, povedal, že apokalyptické varovania sú prehnané.

Pošli nám TIP na článok



Teraz čítajú