AI sa obrátila proti nám. Hackeri stvorili dvojča ChatGPT, ktoré ťa pripraví o všetko

Predstav si toto. V doručenej pošte finančného úradníka, pracujúceho vo veľkej spoločnosti, pristane neznámy e-mail. Zdá sa, že pochádza od generálneho riaditeľa, ktorého e-mail po kontrole sedí. Nič nenasvedčuje podvodu a správa je plná konkrétnych referencií, ktoré by mohol vedieť len CEO. V tom ale odosielateľ začne naliehavo požadovať bankový prevod nejakému neznámemu predajcovi.

Finančník pracovník ostane zmätený, no bez podozrenia z nečestnej hry, iniciuje prevod, pričom nevedomky presmeruje všetky finančné prostriedky priamo do vrecka kyberzločinca. Až keď neskôr prehovorí s generálnym riaditeľom, uvedomí si, že boli podvedení. Nebola to však práca sofistikovaného ľudského podvodníka, ktorý strávil nespočetné množstvo hodín porozumením spoločnosti a jej riaditeľa.

Ide o dielo WormGPT, zlého dvojčaťa ChatGPT, ktorého desivou schopnosťou je vytvárať na jednotlivca či skupiny cielené a veľmi presvedčivé útoky.

Cez všetky benefity AI pre ľudstvo, nová vlna počítačovej kriminality je na vzostupe aj vďaka umelej inteligencii, ktorú je čoraz ťažšie odhaliť a zabrániť jej konaniu. Príchod WormGPT na digitálnu scénu vryl do pamäti ľudí mrazivú pripomienku jednoduchého zneužitia AI, čo podčiarkuje naliehavú potrebu regulačných opatrení v oblasti kybernetickej bezpečnosti.

Zrod budúceho nepriateľa ľudstva

S prvotným varovaním z útrob Dark Webu prišla kybernetická spoločnosť SlashNext, ktorá WormGPT otestovala. „Výsledky boli znepokojujúce,“ okomentovali rozsiahlu analýzu. Veľké jazykové modely (LLM) vytvorené materskou spoločnosťou ChatGPT OpenAI, alebo Google či Microsoft, majú rôzne bezpečnostné opatrenia navrhnuté tak, aby zabránili ľuďom zneužívať ich na nekalé účely.

Naproti tomu sa WormGPT propagoval ako nový, necenzurovaný LLM, ktorý bol vytvorený špeciálne pre nelegálne aktivity. Bez regulácie si však zločinci môžu dovoliť veľké veci, pričom stvoriteľ tejto novej temnej služby chatbotov je stále na slobode a o jeho totožnosti sa neustále vedú rozsiahle diskusie.

Čítaj viac z kategórie: Novinky