Čínsky DeepSeek úplne zlyhal. Zhromaždil a ohrozil citlivé údaje ľudí
Aktualizované 31. januára 2025:
Hoci sa vývojári čínskeho chatbota chvália jeho výkonom a tešia sa z celosvetovému úspechu, teraz čelia vážnemu bezpečnostnému zlyhaniu. Ako upozornil portál 9to5Mac, bezpečnostní výskumníci zo spoločnosti Wiz Research odhalili na vážny bezpečnostný problém. DeepSeek používa verejne dostupnú databázu ClickHouse, ktorá umožňovala plnú kontrolu nad jej obsahom bez akejkoľvek autentifikácie. Databáza obsahuje históriu chatov a ďalšie citlivé informácie používateľov.
„ClickHouse je open-source stĺpcový systém správy databáz navrhnutý na rýchle analytické dopyty nad veľkými dátovými súbormi. Bol vyvinutý spoločnosťou Yandex (pozn. ruská spoločnosť) a je používaný na spracovávanie dát v reálnom čase, ukladanie logov a analýzu veľkých dát, čo naznačuje, že takáto expozícia predstavuje veľmi cenný a citlivý objav,“ uvádza Wiz Research.
Databáza obsahovala viac ako milión záznamov, ktoré obsahovali nielen históriu chatov, ale aj tajné API kľúče, detaily backend systému a ďalšie interné prevádzkové dáta, k ktorým sa dalo dostať bez autentifikácie či ďalšieho obranného mechanizmu.
„V priebehu niekoľkých minút sme našli verejne prístupnú databázu ClickHouse prepojenú s DeepSeek, ktorá bola úplne otvorená a neautentifikovaná, čím odhaľovala citlivé údaje,“ píšu výskumníci.
Ako uvádza 9to5Mac, spoločnosť databázu už zabezpečila.
Pôvodný článok:
Čínsky DeepSeek sa stal hitom na celom svete. Búra rebríčky v obchodoch s aplikáciami, kde sa dostal na prvé miesta, a je priamou konkurenciou populárneho chatbota ChatGPT od americkej spoločnosti OpenAI. Je však naozaj taký skvelý? Ukážeme ti dôvody, prečo by si ho nemal používať.
Čínska cenzúra
V minulom článku, v ktorom sme porovnávali DeepSeek s ChatGPT sme poukázali na to, že čínska AI pomôže pri riešení bežných, ale aj matematických či fyzikálnych úlohách, pri otázkach z histórie sa však naňho nemôžeme spoľahnúť. Na rozdiel od ostatných AI modelov podlieha cenzúre, najmä pri otázkach, ktoré sú citlivé z pohľadu čínskej vlády.
Pri otázke „Čo sa stalo v Číne na Námestí Nebeského pokoja v roku 1989?“ nevedel odpovedať na otázku. Problémy nastali aj pri témach ohľadne vojny na Ukrajine, kde najprv opakoval proruskú propagandu.
Zistenia denníka The Guardian však ukazujú, že DeepSeek sa v niektorých prípadoch snaží odpovedať aj na citlivé na otázky, až kým sa „neopraví“ a nezmaže svoju odpoveď. DeepSeek začal odpovedať na otázku, či je sloboda prejavu legitímnym prejavom.
Počas svojej odpovede bol aj kritický voči Číne a opisoval, ako je v demokratických rámcoch potrebné chrániť slobodu slova, pričom uviedol, že „čínsky model riadenia tento rámec odmieta a uprednostňuje autoritu štátu a spoločenskú stabilitu pred individuálnymi právami“. Pokračoval, že „v Číne je primárnou hrozbou samostatný štát, ktorý aktívne potláča nesúhlas.“
Zároveň sa však zasekol, následne svoje odpovede zmazal. „Prepáč, zatiaľ nie som si istý, ako odpovedať na tento typ otázky. Poďme sa radšej porozprávať o matematike, programovaní alebo logických problémoch,“ napísal chatbot.
„Uprostred vety sa sám prerušil. Bolo to veľmi náhle. Je to pôsobivé, cenzuruje sa reálnom čase,“ uviedol pre The Guardian Salvador, používateľ, ktorý sa DeepSeeku pýtal „nepríjemné otázky“.
Cenzúra AI modelu tak vyvoláva otázky, ohľadne bezpečnosti používania. Ako upozorňuje BGR, ak čínska vláda vyžaduje zavedenie cenzúry v chatbotoch, môže od vývojárov požadovať, aby zaviedli manipulatívne príkazy, napríklad verejnej mienky. The Guardian upozorňuje na to, že open-source verzia DeepSeek R1 zrejme nemá až tak prísne mechanizmy cenzúry, avšak väčšina používateľov túto verziu pravdepodobne nebude používať.
Zhromažďovanie dát
Čínska platforma TikTok bola Spojenými štátmi uznaná ako „národná bezpečnostná hrozba“, z dôvodu zbierania dát, ktoré následne sa posielali na čínske servery. Nie je to inak ani v prípade čínskeho chatbota DeepSeek. Všetky osobné údaje, komunikáciu, ako aj ďalšie parametre DeepSeek zhromažďuje a ukladá ich na servery v Číne.
„Vaše informácie zhromažďujeme tromi spôsobmi: informácie, ktoré poskytnete, automaticky zhromažďované informácie a Informácie z iných zdrojov,“ píše DeepSeek na webe o v ochrane osobných údajoch.
DeepSeek zbiera osobné údaje ako je dátum narodenia, používateľské meno, e-mailová adresa, telefónne číslo a heslo. Pri komunikácií s chatbotmi by si mal byť obzvlášť ostražitý a nezadávať citlivé a osobné údaje. Čínska spoločnosť zbiera informácie o používaní služby, ako aj o všetkej komunikácií s chatbotom a nahratých súboroch.
„Pri používaní našich služieb môžeme zhromažďovať váš textový alebo zvukový vstup, príkazy, nahrané súbory, spätnú väzbu, históriu chatu alebo iný obsah, ktorý poskytnete nášmu modelu a službám.“
Spoločnosť si uchováva rôzne parametre o zariadeniach na ktorých sa prihlasuješ, napríklad jazyk systému, druh operačného systému, IP adresu, sieťové pripojenie, dokonca zaznamenáva aj to, ako rýchlo píšeš na klávesnici a ako službu využívaš.
„Keď pristupujete k Službe, zhromažďujeme určité informácie o vašom zariadení a sieťovom pripojení. Tieto informácie zahŕňajú model vášho zariadenia, operačný systém, vzory alebo rytmy klávesov, IP adresu a jazyk systému. Zhromažďujeme tiež informácie týkajúce sa služieb, diagnostiky a výkonu vrátane správ o zlyhaní a výkonnostných záznamov. Automaticky vám pridelíme ID zariadenia a ID používateľa. Ak sa prihlásite z viacerých zariadení, používame informácie, ako je ID vášho zariadenia a ID používateľa, na identifikáciu vašej aktivity naprieč zariadeniami, aby sme vám poskytli bezproblémové prihlásenie a z bezpečnostných dôvodov,“ píše DeepSeek.
Aj keď DeepSeek uvádza, že používateľ má právo vedieť, ako zhromažďujú informácie, nemáme podrobnosti o tom, ako sa naozaj narába s informáciami a s osobnými údajmi. Čínska platforma zbiera množstvo informácií a opatrnosť je na mieste a to nielen pri používaní čínskeho chatbota, ale aj pri ostatných AI modeloch.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Top 7 nenápadných vylepšení, ktoré ukázal iOS 26. Tieto drobnosti ti zmenia každodenné používanie iPhonu
Kultová hororová séria sa dočká vytúženého herného spracovania. O strach a brutalitu nebude núdza
Tvorca ikonického Breaking Bad sa vracia. Jeho nový seriál bude iný, ako sme si mysleli
Nový kamikadze dron SkyShark desí armády. Navrhol ho technický riaditeľ F1 a dal mu tieto neuveriteľné parametre
Android si doteraz nevyužíval naplno. Toto je 7 skvelých tipov, ktoré ho zmenia na nepoznanie
NAJČÍTANEJŠIE ZO STARTITUP
WHO upozorňuje na hrozbu epidémie: Ohrozených je 5,6 miliardy ľudí
Slováci so stresovým hormónom plnia ambulancie. „Telo bez neho nevie fungovať,“ varuje endokrinologička
Hranica 120 rokov je reálna, tvrdí neurovedkyňa. Kľúčom k dlhovekosti sú tri jednoduché návyky
MIMORIADNE: Mladého Slováka, ktorý zmizol v Grécku, našli mŕtveho. Hľadali ho rok
ESET zarobil 100 miliónov, firma zmenila vlastnícku štruktúru. Hlási tržby cez 690 miliónov eur
- 24 hod
- 48 hod
- 7 dní
-
- Prekvapivé zistenia vedcov: Obľúbený nápoj Slovákov obsahuje neviditeľnú hrozbu, o ktorej sme doteraz netušili
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Európska únia opäť zaťala do živého. Chystá návrh, ktorý prinúti časť ľudí kupovať len elektromobily
- Váži iba 13 kg, no má neuveriteľný výkon. Divízia Mercedesu vyvinula elektromotor, ktorý zmení svet
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
-
- Prekvapivé zistenia vedcov: Obľúbený nápoj Slovákov obsahuje neviditeľnú hrozbu, o ktorej sme doteraz netušili
- Európska únia opäť zaťala do živého. Chystá návrh, ktorý prinúti časť ľudí kupovať len elektromobily
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Prehliadaná krajina chce byť najväčší producent plynu v Európe. Spustila plán za 4 miliardy eur
- Rusko vyľakalo celý Západ. Multifunkčnou superzbraňou chce dobyť prekvapivú časť sveta
-
- Rusko vyľakalo celý Západ. Multifunkčnou superzbraňou chce dobyť prekvapivú časť sveta
- Elektrický Volkswagen prešiel 160 000 kilometrov. To, čo sa stalo s jeho batériou, prekvapilo odborníkov
- Slovákom hrozí pokuta 5800 €. Tento zlozvyk za volantom ťa vyjde poriadne draho
- Mali byť hitom, no nikto ich nechcel. TOP 8 technologických prepadákov slávnych značiek
- Veľká automobilka zvoláva 200-tisíc áut do servisu. Ak máš tento model, kvôli kritickej chybe riskuješ život
Kataster napadli pred pol rokom, no odpovede stále chýbajú. Štát o útoku mlčí a verejnosť tápe
Technologický gigant zarába ako nikdy. SAP v druhom štvrťroku zvýšil zisk o 37 %
Obrovský asteroid môže naraziť do Mesiaca. Zem čaká najväčší vesmírny dážď za 5 000 rokov
Nečakaná krajina zbrojí na úroveň veľmocí. Od Izraelu nakúpi zbrane za vyše 2 miliardy eur
Pred 10 rokmi vyvolala obrovský ošiaľ. Táto planéta stále vzbudzuje nádej na „druhú Zem“
NAJČÍTANEJŠIE ZO STARTITUP