Kybernetický podvod využívajúci umelú inteligenciu prešiel do novej éry. Zatiaľ čo klasický phishing fungoval najmä prostredníctvom e-mailu, dnešní útočníci používajú hlasovú syntézu, generatívne jazykové modely a deepfake technológie, aby vytvorili ilúziu dôveryhodnosti na doposiaľ nevídanej úrovni. FBI v apríli 2025 upozornila na sofistikovanú kampaň, ktorá tieto nástroje kombinuje s cieľom napodobniť amerických vládnych činiteľov, píše Interesting Engineering.

Je nutné zvýšiť ostražitosť

Technológia hlasového klonovania využíva neurónové siete a softvérové architektúry, ktoré sa učia z audiozáznamov hovoreného prejavu. Po dostatočnom natrénovaní dokáže systém syntetizovať reč s intonáciou, rytmom a melódiou veľmi blízkou originálu. Ak má útočník prístup k verejne dostupným prejavom politika, napr. z YouTube, môže vytvoriť falošné hlasové správy takmer na nerozoznanie od reálnych.

Správy v kampani sú často generované jazykovými modelmi, aké poznáme pod skratkami ako GPT či LLaMA. Tieto systémy dokážu napodobniť štýl reálnych oficiálnych oznámení, čím sa zvyšuje pravdepodobnosť, že obete ich budú považovať za autentické. Najväčšou hrozbou je však kombinácia viacerých technológií, ako je smishing (SMS správa pôsobiaca ako oficiálna výzva) napríklad s takzvaným vishingom, pri ktorom AI-hlas zatelefonuje a doplní ilúziu.

V niektorých prípadoch dochádza aj ku krádeži fotografií z verejných profilov, ktoré sa používajú v profilových obrázkoch falošných kontaktov alebo ako súčasť dezinformačných kampaní na sociálnych sieťach. Získanie prístupu k jednému účtu, napríklad štátneho zamestnanca, môže útočníkom otvoriť cestu k ďalším cieľom. Môžu sa vydávať za túto osobu, kontaktovať ďalších členov siete a reťazovo rozširovať útok. Tento „trust pivot“ (otáčanie dôvery) je jadrom modernej digitálnej manipulácie.

Ako sa chrániť?

Dvojfaktorová autentifikácia je dnes minimálnym štandardom pri ochrane rôznych účtov a profilov. Neverejné overovacie frázy medzi kolegami a členmi rodiny zase môžu byť rozhodujúcim faktorom pri odhalení podvodu, i keď znie takáto situácia naozaj dystopicky.

Analýza reči a výberu slov môže napovedať, či ide o výstup AI, avšak v takom prípade musí používateľ dosahovať dosť vysokú technologickú gramotnosť. Menej zdatní nebudú schopní rozoznať, či je text alebo reč vygenerovaná AI, keďže sa tieto systémy neustále zlepšujú.

Čítajte viac z kategórie: Novinky