Čínsky DeepSeek úplne zlyhal. Zhromaždil a ohrozil citlivé údaje ľudí

Aktualizované 31. januára 2025:

Hoci sa vývojári čínskeho chatbota chvália jeho výkonom a tešia sa z celosvetovému úspechu, teraz čelia vážnemu bezpečnostnému zlyhaniu. Ako upozornil portál 9to5Mac, bezpečnostní výskumníci zo spoločnosti Wiz Research odhalili na vážny bezpečnostný problém. DeepSeek používa verejne dostupnú databázu ClickHouse, ktorá umožňovala plnú kontrolu nad jej obsahom bez akejkoľvek autentifikácie. Databáza obsahuje históriu chatov a ďalšie citlivé informácie používateľov.

„ClickHouse je open-source stĺpcový systém správy databáz navrhnutý na rýchle analytické dopyty nad veľkými dátovými súbormi. Bol vyvinutý spoločnosťou Yandex (pozn. ruská spoločnosť) a je používaný na spracovávanie dát v reálnom čase, ukladanie logov a analýzu veľkých dát, čo naznačuje, že takáto expozícia predstavuje veľmi cenný a citlivý objav,“ uvádza Wiz Research.

Wiz Research

Databáza obsahovala viac ako milión záznamov, ktoré obsahovali nielen históriu chatov, ale aj tajné API kľúče, detaily backend systému a ďalšie interné prevádzkové dáta, k ktorým sa dalo dostať bez autentifikácie či ďalšieho obranného mechanizmu.

„V priebehu niekoľkých minút sme našli verejne prístupnú databázu ClickHouse prepojenú s DeepSeek, ktorá bola úplne otvorená a neautentifikovaná, čím odhaľovala citlivé údaje,“ píšu výskumníci.

Wiz Research

Ako uvádza 9to5Mac, spoločnosť databázu už zabezpečila.

Pôvodný článok:

Čínsky DeepSeek sa stal hitom na celom svete. Búra rebríčky v obchodoch s aplikáciami, kde sa dostal na prvé miesta, a je priamou konkurenciou populárneho chatbota ChatGPT od americkej spoločnosti OpenAI. Je však naozaj taký skvelý? Ukážeme ti dôvody, prečo by si ho nemal používať.

Čínska cenzúra

V minulom článku, v ktorom sme porovnávali DeepSeek s ChatGPT sme poukázali na to, že čínska AI pomôže pri riešení bežných, ale aj matematických či fyzikálnych úlohách, pri otázkach z histórie sa však naňho nemôžeme spoľahnúť. Na rozdiel od ostatných AI modelov podlieha cenzúre, najmä pri otázkach, ktoré sú citlivé z pohľadu čínskej vlády.

Pri otázke „Čo sa stalo v Číne na Námestí Nebeského pokoja v roku 1989?“ nevedel odpovedať na otázku. Problémy nastali aj pri témach ohľadne vojny na Ukrajine, kde najprv opakoval proruskú propagandu.

Zistenia denníka The Guardian však ukazujú, že DeepSeek sa v niektorých prípadoch snaží odpovedať aj na citlivé na otázky, až kým sa „neopraví“ a nezmaže svoju odpoveď. DeepSeek začal odpovedať na otázku, či je sloboda prejavu legitímnym prejavom.

DeepSeek

Počas svojej odpovede bol aj kritický voči Číne a opisoval, ako je v demokratických rámcoch potrebné chrániť slobodu slova, pričom uviedol, že „čínsky model riadenia tento rámec odmieta a uprednostňuje autoritu štátu a spoločenskú stabilitu pred individuálnymi právami“. Pokračoval, že „v Číne je primárnou hrozbou samostatný štát, ktorý aktívne potláča nesúhlas.“

Zároveň sa však zasekol, následne svoje odpovede zmazal. „Prepáč, zatiaľ nie som si istý, ako odpovedať na tento typ otázky. Poďme sa radšej porozprávať o matematike, programovaní alebo logických problémoch,“ napísal chatbot.

„Uprostred vety sa sám prerušil. Bolo to veľmi náhle. Je to pôsobivé, cenzuruje sa reálnom čase,“ uviedol pre The Guardian Salvador, používateľ, ktorý sa DeepSeeku pýtal „nepríjemné otázky“.

DeepSeek

Cenzúra AI modelu tak vyvoláva otázky, ohľadne bezpečnosti používania. Ako upozorňuje BGR, ak čínska vláda vyžaduje zavedenie cenzúry v chatbotoch, môže od vývojárov požadovať, aby zaviedli manipulatívne príkazy, napríklad verejnej mienky. The Guardian upozorňuje na to, že open-source verzia DeepSeek R1 zrejme nemá až tak prísne mechanizmy cenzúry, avšak väčšina používateľov túto verziu pravdepodobne nebude používať.

Zhromažďovanie dát

Čínska platforma TikTok bola Spojenými štátmi uznaná ako „národná bezpečnostná hrozba“, z dôvodu zbierania dát, ktoré následne sa posielali na čínske servery. Nie je to inak ani v prípade čínskeho chatbota DeepSeek. Všetky osobné údaje, komunikáciu, ako aj ďalšie parametre DeepSeek zhromažďuje a ukladá ich na servery v Číne.

„Vaše informácie zhromažďujeme tromi spôsobmi: informácie, ktoré poskytnete, automaticky zhromažďované informácie a Informácie z iných zdrojov,“ píše DeepSeek na webe o v ochrane osobných údajoch.

DeepSeek zbiera osobné údaje ako je dátum narodenia, používateľské meno, e-mailová adresa, telefónne číslo a heslo. Pri komunikácií s chatbotmi by si mal byť obzvlášť ostražitý a nezadávať citlivé a osobné údaje. Čínska spoločnosť zbiera informácie o používaní služby, ako aj o všetkej komunikácií s chatbotom a nahratých súboroch.

„Pri používaní našich služieb môžeme zhromažďovať váš textový alebo zvukový vstup, príkazy, nahrané súbory, spätnú väzbu, históriu chatu alebo iný obsah, ktorý poskytnete nášmu modelu a službám.“

Spoločnosť si uchováva rôzne parametre o zariadeniach na ktorých sa prihlasuješ, napríklad jazyk systému, druh operačného systému, IP adresu, sieťové pripojenie, dokonca zaznamenáva aj to, ako rýchlo píšeš na klávesnici a ako službu využívaš.

„Keď pristupujete k Službe, zhromažďujeme určité informácie o vašom zariadení a sieťovom pripojení. Tieto informácie zahŕňajú model vášho zariadenia, operačný systém, vzory alebo rytmy klávesov, IP adresu a jazyk systému. Zhromažďujeme tiež informácie týkajúce sa služieb, diagnostiky a výkonu vrátane správ o zlyhaní a výkonnostných záznamov. Automaticky vám pridelíme ID zariadenia a ID používateľa. Ak sa prihlásite z viacerých zariadení, používame informácie, ako je ID vášho zariadenia a ID používateľa, na identifikáciu vašej aktivity naprieč zariadeniami, aby sme vám poskytli bezproblémové prihlásenie a z bezpečnostných dôvodov,“ píše DeepSeek.

Aj keď DeepSeek uvádza, že používateľ má právo vedieť, ako zhromažďujú informácie, nemáme podrobnosti o tom, ako sa naozaj narába s informáciami a s osobnými údajmi. Čínska platforma zbiera množstvo informácií a opatrnosť je na mieste a to  nielen pri používaní čínskeho chatbota, ale aj pri ostatných AI modeloch.

Čítajte viac z kategórie: Aplikácie