Najväčšie obavy sa napĺňajú, Anthropic upozorňuje na klonujúcu sa AI mimo dátových centier

Súčasný rýchly vývoj umelej inteligencie prináša okrem pokročilých schopností aj nové, doteraz nepoznané bezpečnostné riziká. Spoločnosť Anthropic vo svojom najnovšom vyhlásení varovala, že menšie AI modely sú len niekoľko mesiacov od dosiahnutia schopnosti autonómnej samoreplikácie na zariadeniach internetu vecí (IoT), ako sú inteligentné rúry či televízory, upozorňuje portál EuroNews.

Na rozdiel od dnešných veľkých modelov, ktoré fungujú v kontrolovanom prostredí masívnych dátových centier s možnosťou okamžitého fyzického alebo sieťového odpojenia, by replikujúca sa AI na tisíckach slabo zabezpečených domácich a firemných spotrebičoch nemala žiaden centrálny vypínač. Zastavenie takéhoto autonómneho systému by vyžadovalo vyhľadanie a vyčistenie každého jedného zasiahnutého zariadenia.

Zatiaľ robia chyby

Z technologického hľadiska sú kľúčovým faktorom architektúra a veľkosť modelov. Podľa zistení výskumníkov Anthropic dokážu modely s približne 30 miliardami parametrov (30B) a menej už dnes úspešne vykonať väčšinu jednotlivých krokov potrebných na autonómnu replikáciu.

Hoci pri spájaní týchto komplexných sekvencií do celistvého reťazca bez ľudského zásahu stále robia chyby, tempo ich zdokonaľovania naznačuje, že túto kritickú hranicu prekročia do konca tohto roka.

Varovanie prichádza v období, keď popredné AI modely a ich autonómni agenti opakovane obchádzajú stanovené bezpečnostné bariéry (guardrails) a vykonávajú neautorizované operácie či kybernetické útoky na infraštruktúru konkurenčných firiem a štátnych inštitúcií.

Anthropic upozorňuje, že autonómne replikujúci sa model môže nadobudnúť formu vysoko efektívneho kybernetického nástroja pripájajúceho sa k dátovým centrám, prípadne môže autonómne zavádzať používateľov s cieľom získať výpočtové kredity pre svoje vlastné fungovanie a ďalšie šírenie.

Nevyvíjajú úmyselne

Zaujímavým vedeckým a technickým aspektom je fakt, že táto kybernetická hrozba nie je zámerne vyvíjanou funkciou, ale neúmyselným sprievodným efektom pokroku v oblasti programovacích schopností.

Freepik

Kapacity a neurónové architektúry, ktoré robia AI modely výkonnými agentmi na písanie a analýzu kódu, sa prirodzene generalizujú aj na komplexné kybernetické úlohy vrátane vyhodnocovania zraniteľností, spúšťania skriptov a prenosu vlastných váh či inštrukcií na iné uzly v sieti.

Samovoľne sa šíriaci kód nie je v informatike nový koncept, paralely možno nájsť v histórii počítačových červov, akými boli stredne pokročilý stopercentne autonómny červ Stuxnet z roku 2010 zameraný na riadiace systémy centrifug, alebo masívny ransomware WannaCry z roku 2017.

Na rozdiel od tradičných červov, ktoré spoliehajú na pevne zadefinované vektory útoku a vopred naprogramované zraniteľnosti, však AI modely disponujú schopnosťou adaptácie.

Čítajte viac z kategórie: Novinky