V posledných týždňoch sa čínska chatovacia umelá inteligencia DeepSeek stala jednou z najdiskutovanejších tém v oblasti kyberbezpečnosti. Jej výkonnosť je porovnateľná so západnými AI modelmi, no jej pôvod a spôsob nakladania s údajmi vzbudzujú obavy.

Daniel Šafář, odborník na kybernetickú bezpečnosť zo spoločnosti Check Point Software Technologies, v rozhovore podrobne vysvetlil hlavné riziká spojené s používaním tejto AI. Hlavným problémom sú dva aspekty: bezpečnosť používateľských dát a možné zneužitie modelu na vytváranie kybernetických hrozieb. O téme informoval portál ČT24.

Zber citlivých údajov a ochrana súkromia

Podobne ako iné veľké jazykové modely, aj DeepSeek zhromažďuje všetky interakcie používateľov, no v oveľa väčšom rozsahu. Ukladá a odosiela na externé servery textové vstupy, nahrané súbory, históriu konverzácií, hlasové vstupy, obrázky a dokonca aj vzorce stláčaných kláves. „Tak komplexný zber dát je bezprostredné riziko,“ varuje Šafář. „Akékoľvek citlivé informácie vložené do tohto modelu môžu byť zneužité alebo spracované neznámym spôsobom.“

DeepSeek tak podľa neho prekračuje bežné zvyklosti v práci s údajmi, na ktoré sú zvyknutí používatelia západných AI platforiem. Hoci aj ChatGPT alebo Bard spracúvajú používateľské vstupy, majú prísnejšie regulačné mechanizmy, zatiaľ čo DeepSeek môže pracovať prakticky bez obmedzení.

DeepSeek

Druhým vážnym rizikom je potenciálna zneužiteľnosť modelu kyberzločincami. DeepSeek umožňuje generovanie škodlivého kódu, zlepšovanie útokov na počítačové systémy a phishingové kampane.

„DeepSeek je pre hackerov extrémne atraktívny,“ vysvetľuje Šafář. „Modely ako ChatGPT v prvých mesiacoch svojho fungovania nemali dostatočné bezpečnostné filtre, čo viedlo k ich zneužitiu. DeepSeek je momentálne rovnako neregulovaný.“ Podľa kyberbezpečnostných expertov sa na dark webe objavujú diskusie, kde si hackeri vymieňajú poznatky o tom, ako model manipulovať a využívať na nelegálne aktivity.

Regulácie a kontroverzie okolo DeepSeek

V niektorých krajinách už padli rozhodnutia o zákaze alebo dôkladnej kontrole modelu DeepSeek. Niektoré vlády požiadali o podrobné vysvetlenie, ako sa s údajmi pracuje a aké opatrenia sú zavedené na ochranu súkromia.

Ďalším problémom je nedostatočná regulácia v iných jazykoch. Kým v angličtine môže existovať určitá miera filtrovania, v iných jazykoch, napríklad v ruštine, neexistujú prakticky žiadne obmedzenia. To znamená, že používatelia môžu zadávať otázky a generovať obsah bez akýchkoľvek bezpečnostných zábran.