Umelá inteligencia produkuje sofistikovaný podvod. Odborníci varujú pred novou vlnou

V tomto texte boli použité materiály TASR.

Umelá inteligencia mení nielen spôsob práce či vyhľadávania informácií, ale čoraz viac aj svet kybernetických útokov. To, čo ešte donedávna vyžadovalo hodiny alebo dni príprav, dnes zvládne AI za niekoľko sekúnd. Odborníci upozorňujú, že útočníci dokážu vytvárať mimoriadne presvedčivé personalizované phishingové správy, ktoré je čoraz ťažšie odhaliť.

Podľa Márie Krahulecovej, spoluzakladateľky konferencie o kybernetickej bezpečnosti Qubit Conference, je najväčším problémom schopnosť umelej inteligencie prepájať údaje z viacerých verejných aj uniknutých zdrojov.

Ak sa tvoja e-mailová adresa objavila pri úniku dát, nemusí ísť o jedinú informáciu, ktorú útočníci získajú. Moderné jazykové modely dokážu prepojiť uniknutý e-mail s verejnými profilmi na sociálnych sieťach, firemnými či školskými stránkami alebo ďalšími databázami. Výsledkom môže byť podrobný profil obsahujúci pracovnú históriu, kontakty, záujmy či spôsob komunikácie.

Na základe týchto údajov potom umelá inteligencia pripraví e-mail, ktorý pôsobí prirodzene, je napísaný bez gramatických chýb a využíva správny jazyk aj tón komunikácie. Práve preto sú takéto správy oveľa dôveryhodnejšie než klasické podvodné e-maily z minulosti.

Odborníci upozorňujú, že riziko nespočíva iba v jednej uniknutej databáze. Útočníci môžu spojiť školský e-mail z jedného incidentu, telefónne číslo z iného úniku, pracovné informácie zo sociálnych sietí a verejne dostupné príspevky používateľa. Takto vytvorený profil následne slúži na rôzne typy podvodov.

Nejde pritom len o phishing. Takéto informácie môžu poslúžiť aj na telefonické podvody, klonovanie hlasu pomocou umelej inteligencie alebo vytváranie deepfake videí, ktoré napodobňujú konkrétnu osobu.

Stačí správny moment

Jedným z častých scenárov je takzvaný spear phishing, teda cielený útok na konkrétneho človeka. Útočník sa môže vydávať napríklad za generálneho riaditeľa firmy a požiadať zamestnanca, aby mu poslal telefónne číslo alebo pokračoval v komunikácii cez aplikáciu WhatsApp.

Aj jednoduchá správa môže byť úspešná, ak príde v správnom čase a obsahuje meno osoby, ktorej obeť dôveruje.

„Aj údaje, ktoré sa môžu na prvý pohľad javiť ako menej citlivé, môžu mať vysokú hodnotu, najmä ak sa skombinujú s informáciami z iných zdrojov. Organizácie preto musia chrániť nielen svoje systémy, ale zároveň pripraviť ľudí na možnosť, že útočník môže presvedčivo napodobniť kolegu, učiteľa, manažéra alebo dôveryhodnú inštitúciu,“ upozornila Krahulecová.

Ako sa brániť

Experti z Qubit Conference odporúčajú zachovať obozretnosť pri každej nečakanej správe, ktorá vytvára pocit naliehavosti alebo vyžaduje okamžitú reakciu.

Pozornosť by mali vzbudiť najmä správy, ktoré žiadajú presun komunikácie na inú platformu, chcú získať tvoje telefónne číslo, vyzývajú na otvorenie prílohy, obsahujú odkaz na prihlásenie do účtu prípadne vytvárajú časový tlak alebo sa odvolávajú na autoritu. Ak si nie si istý pravosťou požiadavky, odborníci odporúčajú overiť si ju iným komunikačným kanálom, napríklad telefonicky alebo osobne.

Aj napriek pokročilým bezpečnostným technológiám zostáva človek jedným z najčastejších cieľov kybernetických útokov. Práve preto odborníci zdôrazňujú, že ochrana už dávno nespočíva len v antivírusoch či bezpečnostných systémoch. Rovnako dôležité je pravidelné vzdelávanie používateľov a zvyšovanie povedomia o moderných formách podvodov.

S rastúcimi schopnosťami umelej inteligencie bude totiž čoraz náročnejšie rozlíšiť, či správu skutočne poslal kolega alebo ju za niekoľko sekúnd vytvoril jazykový model využívaný kyberzločincami.