Podľa údajov Anthropic bolo len v priebehu jedného mesiaca napadnutých sedemnásť organizácií. Claude pomohol útočníkom odhaliť slabiny v sieťach, vybrať ciele a analyzovať získané údaje. Výsledkom boli vydieračské požiadavky, v niektorých prípadoch presahujúce pol milióna dolárov. Kriminálnici tak využívajú AI nielen na technické úkony, ale aj na psychologicky cielenú manipuláciu, ktorá zvyšuje šance na úspech útoku.

Umelá inteligencia v službách podvodníkov

Znepokojivé sú aj zistenia o zapojení Severnej Kórey. Tamojší agenti využívali Claude na predstieranie, že sú programátori amerických firiem. AI im umožnila komunikovať a plniť úlohy, na ktoré sami nemali odborné schopnosti. V minulosti si podobné operácie vyžadovali dlhoročný tréning, dnes však bariéry prakticky miznú. Podľa Anthropic takto získané prostriedky môžu končiť priamo v severokórejských zbrojných programoch.

Copilot Designer/Midjourney

AI sa stáva aj motorom nových podvodných schém. Na internetových fórach sa už predávajú plány, ako s jej pomocou viesť romantické podvody či iné formy emocionálnej manipulácie. Útočníci dokážu cez chatboty komunikovať vo viacerých jazykoch a vyťahovať od obetí peniaze sofistikovanejším spôsobom, než bolo možné kedykoľvek predtým.

Anthropic tvrdí, že zavádza ochranné mechanizmy, no priznáva, že podvodníci ich systematicky obchádzajú. Každý incident preto slúži ako zdroj dát na posilnenie obrany. Geopoliticky ide o problém, ktorý presahuje hranice: ak sa AI stane dostupným nástrojom pre štátom podporovaných hackerov či organizované skupiny, Západ môže čeliť vlne útokov, na ktoré doterajšie postupy nepostačia.

Téma otvára zásadnú otázku, či sa spoločnosti vyvíjajúce AI dokážu vyrovnať s novou zodpovednosťou. Claude mal byť asistent pre kreatívnu a produktívnu prácu, no v rukách útočníkov sa mení na zbraň. Svet tak vstupuje do éry, kde sa boj proti kyberkriminalite stáva testom nielen pre vlády, ale aj pre samotných tvorcov umelej inteligencie.