AI zlyhala na plnej čiare. Milovanú apku zneužili hackeri, takto jednoducho sa dostali do cudzích účtov

Umelá inteligencia mala používateľom Instagramu zjednodušiť riešenie problémov s účtom. Namiesto toho sa na niekoľko mesiacov stala nástrojom, ktorý hackerom výrazne uľahčil preberanie cudzích profilov. Bezpečnostná chyba v AI chatbotovi spoločnosti Meta údajne umožnila útočníkom meniť e-mailové adresy pri účtoch iných používateľov a následne nad nimi získať plnú kontrolu.

Sociálna sieť Instagram dnes patrí medzi najobľúbenejšie aplikácie v online priestore a takéto vážne bezpečnostné fiasko sa nedá ignorovať. Podľa zistení portálu 404 Media bola zraniteľnosť aktívne zneužívaná od marca, keď Meta nového asistenta predstavila. Medzi potenciálnymi obeťami sa objavili aj známe mená vrátane bývalého amerického prezidenta Baracka Obamu či najvyššie postaveného poddôstojníka amerických Vesmírnych síl Johna Bentivegnu.

Chatbot mal nahradiť časť práce ľudských operátorov zákazníckej podpory. Používatelia prostredníctvom neho mohli riešiť problémy s účtom, obsahom alebo dezinformáciami bez potreby kontaktovať živého pracovníka. Práve vysoká miera automatizácie sa však ukázala ako slabé miesto celého systému.

Aby mohol chatbot vybavovať požiadavky bez zásahu človeka, získal rozsiahle oprávnenia vrátane možnosti spracovávať žiadosti o obnovenie prístupu k účtu. Teoreticky mal systém zároveň rozpoznávať pokusy o neoprávnené prevzatie profilu sledovaním zmien hesla, neobvyklej aktivity či prihlasovania z nových lokalít.

Hackeri však podľa dostupných informácií našli prekvapivo jednoduchý spôsob, ako ochranu obísť.

Stačil VPN a používateľské meno

Útočníci využívali VPN služby na to, aby ich internetové pripojenie pôsobilo ako pripojenie z rovnakého regiónu, v akom sa nachádzal majiteľ napadnutého účtu. Následne chatbot požiadali o zaslanie obnovovacieho kódu pre konkrétne používateľské meno na e-mailovú adresu, ktorú si sami zvolili.

Ak systém žiadosti vyhovel, hacker získal možnosť obnoviť prístup k účtu a prevziať nad ním kontrolu. Podľa výskumníčky aplikácií a bývalej zamestnankyne spoločnosti Meta Jane Manchun Wong fungovala táto metóda aj pri jej vlastnom profile a účtoch ďalších známych používateľov.

Screenshot/Meta AI

Najväčším cieľom boli najmä krátke alebo atraktívne používateľské mená obsahujúce populárne výrazy. Takéto účty majú na čiernom trhu vysokú hodnotu a často sa predávajú za stovky až tisíce eur.

Prípad zároveň ukazuje, aké riziká prináša prílišné spoliehanie sa na automatizované systémy. Kým človek by pri podobnej požiadavke mohol spozornieť a vyžiadať si ďalšie overenie identity, chatbot vykonával úkony automaticky na základe interných pravidiel.

Účty známych osobností šírili podozrivý obsah

Podľa informácií zverejnených portálom 404 Media môže zraniteľnosť súvisieť aj s nedávnymi incidentmi na profiloch známych osobností. V nedeľu sa na účte Baracka Obamu objavili AI-generované obrázky doplnené arabskými textami tvrdia­cimi, že Biely dom ovládajú šiitskí moslimovia.

V rovnakom čase sa na profile Johna Bentivegnu objavili príspevky s proizránskym obsahom. Hoci priame prepojenie medzi týmito incidentmi a konkrétnou chybou nebolo oficiálne potvrdené, časová zhoda vyvolala otázky o rozsahu zneužívania systému.

Meta medzičasom uviedla, že bezpečnostnú medzeru odstránila. Túto informáciu mali následne potvrdiť aj komunikácie hackerov na Telegrame, kde sa údajne objavili správy o tom, že pôvodný postup už nefunguje.

Nejde pritom o jedinú kontroverziu spojenú s agresívnym nasadzovaním umelej inteligencie v spoločnosti Meta. Nedávno sa objavili aj informácie, že firma používala na počítačoch zamestnancov v USA špeciálny monitorovací softvér na zaznamenávanie práce s aplikáciami. Dáta mali slúžiť na trénovanie AI systémov, no postup vyvolal kritiku nielen medzi zamestnancami, ale aj otázky týkajúce sa ochrany súkromia a legislatívnych pravidiel.

Prípad Instagramu tak ukazuje, že snaha o čo najväčšiu automatizáciu môže priniesť nielen vyššiu efektivitu, ale aj nové bezpečnostné riziká. V situácii, keď AI získava čoraz väčšie právomoci pri správe používateľských účtov, môžu mať aj zdanlivo malé chyby mimoriadne vážne následky.

Čítajte viac z kategórie: Cyber