Čínsky DeepSeek úplne zlyhal. Zhromaždil a ohrozil citlivé údaje ľudí
Aktualizované 31. januára 2025:
Hoci sa vývojári čínskeho chatbota chvália jeho výkonom a tešia sa z celosvetovému úspechu, teraz čelia vážnemu bezpečnostnému zlyhaniu. Ako upozornil portál 9to5Mac, bezpečnostní výskumníci zo spoločnosti Wiz Research odhalili na vážny bezpečnostný problém. DeepSeek používa verejne dostupnú databázu ClickHouse, ktorá umožňovala plnú kontrolu nad jej obsahom bez akejkoľvek autentifikácie. Databáza obsahuje históriu chatov a ďalšie citlivé informácie používateľov.
„ClickHouse je open-source stĺpcový systém správy databáz navrhnutý na rýchle analytické dopyty nad veľkými dátovými súbormi. Bol vyvinutý spoločnosťou Yandex (pozn. ruská spoločnosť) a je používaný na spracovávanie dát v reálnom čase, ukladanie logov a analýzu veľkých dát, čo naznačuje, že takáto expozícia predstavuje veľmi cenný a citlivý objav,“ uvádza Wiz Research.
Databáza obsahovala viac ako milión záznamov, ktoré obsahovali nielen históriu chatov, ale aj tajné API kľúče, detaily backend systému a ďalšie interné prevádzkové dáta, k ktorým sa dalo dostať bez autentifikácie či ďalšieho obranného mechanizmu.
„V priebehu niekoľkých minút sme našli verejne prístupnú databázu ClickHouse prepojenú s DeepSeek, ktorá bola úplne otvorená a neautentifikovaná, čím odhaľovala citlivé údaje,“ píšu výskumníci.
Ako uvádza 9to5Mac, spoločnosť databázu už zabezpečila.
Pôvodný článok:
Čínsky DeepSeek sa stal hitom na celom svete. Búra rebríčky v obchodoch s aplikáciami, kde sa dostal na prvé miesta, a je priamou konkurenciou populárneho chatbota ChatGPT od americkej spoločnosti OpenAI. Je však naozaj taký skvelý? Ukážeme ti dôvody, prečo by si ho nemal používať.
Čínska cenzúra
V minulom článku, v ktorom sme porovnávali DeepSeek s ChatGPT sme poukázali na to, že čínska AI pomôže pri riešení bežných, ale aj matematických či fyzikálnych úlohách, pri otázkach z histórie sa však naňho nemôžeme spoľahnúť. Na rozdiel od ostatných AI modelov podlieha cenzúre, najmä pri otázkach, ktoré sú citlivé z pohľadu čínskej vlády.
Pri otázke „Čo sa stalo v Číne na Námestí Nebeského pokoja v roku 1989?“ nevedel odpovedať na otázku. Problémy nastali aj pri témach ohľadne vojny na Ukrajine, kde najprv opakoval proruskú propagandu.
Zistenia denníka The Guardian však ukazujú, že DeepSeek sa v niektorých prípadoch snaží odpovedať aj na citlivé na otázky, až kým sa „neopraví“ a nezmaže svoju odpoveď. DeepSeek začal odpovedať na otázku, či je sloboda prejavu legitímnym prejavom.
Počas svojej odpovede bol aj kritický voči Číne a opisoval, ako je v demokratických rámcoch potrebné chrániť slobodu slova, pričom uviedol, že „čínsky model riadenia tento rámec odmieta a uprednostňuje autoritu štátu a spoločenskú stabilitu pred individuálnymi právami“. Pokračoval, že „v Číne je primárnou hrozbou samostatný štát, ktorý aktívne potláča nesúhlas.“
Zároveň sa však zasekol, následne svoje odpovede zmazal. „Prepáč, zatiaľ nie som si istý, ako odpovedať na tento typ otázky. Poďme sa radšej porozprávať o matematike, programovaní alebo logických problémoch,“ napísal chatbot.
„Uprostred vety sa sám prerušil. Bolo to veľmi náhle. Je to pôsobivé, cenzuruje sa reálnom čase,“ uviedol pre The Guardian Salvador, používateľ, ktorý sa DeepSeeku pýtal „nepríjemné otázky“.
Cenzúra AI modelu tak vyvoláva otázky, ohľadne bezpečnosti používania. Ako upozorňuje BGR, ak čínska vláda vyžaduje zavedenie cenzúry v chatbotoch, môže od vývojárov požadovať, aby zaviedli manipulatívne príkazy, napríklad verejnej mienky. The Guardian upozorňuje na to, že open-source verzia DeepSeek R1 zrejme nemá až tak prísne mechanizmy cenzúry, avšak väčšina používateľov túto verziu pravdepodobne nebude používať.
Zhromažďovanie dát
Čínska platforma TikTok bola Spojenými štátmi uznaná ako „národná bezpečnostná hrozba“, z dôvodu zbierania dát, ktoré následne sa posielali na čínske servery. Nie je to inak ani v prípade čínskeho chatbota DeepSeek. Všetky osobné údaje, komunikáciu, ako aj ďalšie parametre DeepSeek zhromažďuje a ukladá ich na servery v Číne.
„Vaše informácie zhromažďujeme tromi spôsobmi: informácie, ktoré poskytnete, automaticky zhromažďované informácie a Informácie z iných zdrojov,“ píše DeepSeek na webe o v ochrane osobných údajoch.
DeepSeek zbiera osobné údaje ako je dátum narodenia, používateľské meno, e-mailová adresa, telefónne číslo a heslo. Pri komunikácií s chatbotmi by si mal byť obzvlášť ostražitý a nezadávať citlivé a osobné údaje. Čínska spoločnosť zbiera informácie o používaní služby, ako aj o všetkej komunikácií s chatbotom a nahratých súboroch.
„Pri používaní našich služieb môžeme zhromažďovať váš textový alebo zvukový vstup, príkazy, nahrané súbory, spätnú väzbu, históriu chatu alebo iný obsah, ktorý poskytnete nášmu modelu a službám.“
Spoločnosť si uchováva rôzne parametre o zariadeniach na ktorých sa prihlasuješ, napríklad jazyk systému, druh operačného systému, IP adresu, sieťové pripojenie, dokonca zaznamenáva aj to, ako rýchlo píšeš na klávesnici a ako službu využívaš.
„Keď pristupujete k Službe, zhromažďujeme určité informácie o vašom zariadení a sieťovom pripojení. Tieto informácie zahŕňajú model vášho zariadenia, operačný systém, vzory alebo rytmy klávesov, IP adresu a jazyk systému. Zhromažďujeme tiež informácie týkajúce sa služieb, diagnostiky a výkonu vrátane správ o zlyhaní a výkonnostných záznamov. Automaticky vám pridelíme ID zariadenia a ID používateľa. Ak sa prihlásite z viacerých zariadení, používame informácie, ako je ID vášho zariadenia a ID používateľa, na identifikáciu vašej aktivity naprieč zariadeniami, aby sme vám poskytli bezproblémové prihlásenie a z bezpečnostných dôvodov,“ píše DeepSeek.
Aj keď DeepSeek uvádza, že používateľ má právo vedieť, ako zhromažďujú informácie, nemáme podrobnosti o tom, ako sa naozaj narába s informáciami a s osobnými údajmi. Čínska platforma zbiera množstvo informácií a opatrnosť je na mieste a to nielen pri používaní čínskeho chatbota, ale aj pri ostatných AI modeloch.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Najočakávanejšia hra júla všetkým vytrie zrak. Nič takéto sme tu ešte nikdy nemali
Slovákov nadchne cenou, dojazdom aj výbavou. Hyundai má chystať vynikajúci elektromobil
Hawking mal naozaj pravdu. Desivý jav zničí celý vesmír
Tvorcovia 28 rokov potom majú na krku problém. Plánovaná hororová trilógia dostáva vážne trhliny
Rozdiel len pár eur za tankovanie? Je to číry omyl. Analytik vyriešil najväčšiu letnú dilemu Slovákov
NAJČÍTANEJŠIE ZO STARTITUP
Slováci ich „hltajú“ ako lentilky: Kardiológ odhalil doplnky, ktoré vedú k neplodnosti, zlyhaniu pečene a predčasnej smrti
50-tisíc Rusov na fronte, letná ofenzíva v troskách: Korupcia ničí armádu, Ukrajinci chystajú tvrdý protiútok
Smrteľný vírus v populárnej destinácii Slovákov: Krajina hlási prvé úmrtie, 25 ľudí je v karanténe
NÁROČNÝ KVÍZ: Iba 10 % Slovákov odpovie správne na všetky otázky. Prever svoje znalosti z chémie
Obľúbené jedlo spôsobuje nočné mory, potvrdili vedci. Po stáročiach vyriešili záhadu ľudovej múdrosti
- 24 hod
- 48 hod
- 7 dní
-
- Celý život triedila plasty. Žena neverila vlastným očiam, keď pomocou AirTagu zistila, kde končia
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- iPhone stráca lesk. Slováci už nechcú míňať za mobily 1000 eur a našli si nového miláčika
- Lacný ako Fabia, výkonný ako Porsche. Známa značka spustila predaj auta s dojazdom 2 000 km
- Akčný hit Netflixu aj veľkolepé sci-fi. TOP 9 filmov a seriálov v júli na Netflixe a ďalších
-
- Celý život triedila plasty. Žena neverila vlastným očiam, keď pomocou AirTagu zistila, kde končia
- Lacný ako Fabia, výkonný ako Porsche. Známa značka spustila predaj auta s dojazdom 2 000 km
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- Deje sa to len raz za 11 000 rokov. K Slnku sa blíži záhadná planéta a vedci musia konať rýchlo
- Najlepší film Marvelu posledných rokov je konečne online. Aj so slovenským dabingom
-
- Vedci našli skrytý trik, ako obnoviť zrak. Takéto niečo by ti nikdy nenapadlo
- Celý život triedila plasty. Žena neverila vlastným očiam, keď pomocou AirTagu zistila, kde končia
- Stáročia stará záhada má jasnú odpoveď. Vo vnútri Mesiaca našli veľké prekvapenie
- Lacný ako Fabia, výkonný ako Porsche. Známa značka spustila predaj auta s dojazdom 2 000 km
- Deje sa to len raz za 11 000 rokov. K Slnku sa blíži záhadná planéta a vedci musia konať rýchlo
Dôležitý satelit za 88 miliónov dolárov zmizol. Jeff Bezos aj vedci ostali v šoku
Elektrické Volvá sa nepredávajú. Firma musí škrtať a prehodnocovať budúcnosť
Český premiér sa vzbúril proti novému návrhu EÚ: Súčasné ciele stačia, ďalšie nás ekonomicky zruinujú
Česko bičuje historické sucho. Meteorológovia prepisujú 60-ročné rekordy
ZSE spustilo letnú bombu: Slováci si môžu elektromobily nabiť zadarmo
NAJČÍTANEJŠIE ZO STARTITUP