Čínsky DeepSeek sa stal časovanou bombou. Analytici odhalili, ako jednoducho dokáže ohroziť ľudstvo
Čínska umelá inteligencia DeepSeek si v posledných dňoch získava veľkú pozornosť po tom, ako jej uvedenie na trh spôsobilo pokles akcií a stala sa najpopulárnejšou aplikáciou v obchodoch s aplikáciami. Teraz však prichádzajú na povrch nové skutočnosti. Bezpečnostní analytici odhalili, že DeepSeek dokáže generovať nebezpečný obsah. Na tému upozornil portál BGR.
Cenzúra len pri témach, ktoré nevyhovujú Číne
Čínsky model, ktorí vývojári označili ako lacnú verziu oproti americkým modelom, čelí podozreniu zo zneužitia API od spoločnosti OpenAI, ktorý je tvorcom populárneho modelu ChatGPT. OpenAI tvrdí, že DeepSeek mohol použiť techniku, pri ktorej sa menší model učí z extrahovaných dát väčšieho modelu.
DeepSeek taktiež podlieha prísnej cenzúre, avšak sa zdá, že sa to týka len „citlivých tém“ ohľadne na čínsku vládu, či vojny na Ukrajine. V prípade, ak DeepSeek dostane otázku, ktorá je nepríjemná pre čínsku vládu, nevie na ňu odpovedať, prípadne sa cenzuruje v reálnom čase. Ohľadne vojny na Ukrajine má tendenciu uvádzať proruskú propagandu. Čo sa týka neetických tém či škodlivého obsahu, cenzúra modelu už taká prísna nie je.
Uverejňuje návody na kriminálnu činnosť
AI modely od renomovaných spoločností ako OpenAI či Anthropic disponujú s bezpečnostnými opatreniami na blokovanie škodlivých, či neetických odpovedí. Správa od Enkrypt AI odhalila vážne bezpečnostné riziká. DeepSeek nedisponuje bezpečnostnými opatreniami a môže generovať nebezpečný obsah bez špeciálneho hacku či jailbreaku.
V porovnaní s ostatnými modelmi DeepSeek vykazoval alarmujúce čísla:
- Má až 11-násobne vyššiu pravdepodobnosť generovania škodlivého obsahu než OpenAI o1
- 4-násobne toxickejší ako GPT-4o
- 4-násobne náchylnejší na generovanie nebezpečného kódu než o1
- 3x viac zaujatý ako claude-3-opus
Počas výskumu v 83 % testov sa podarilo vygenerovať obsah s rasovými, rodovými a náboženskými predsudkami. V 45 % prípadov AI vygenerovala návody na kriminálnu činnosť, informácie o nelegálnych zbraniach. Uverejnila aj propagandu extrémistických organizácií.
DeepSeek neuspel ani počas jazykového testu. Viac ako 6,6 % odpovedí obsahovalo vulgarizmy, nenávistný alebo extrémistický prejav. Zaradil sa medzi najhoršie hodnotené AI z hľadiska bezpečnosti.
V 78 % prípadoch vytvoril škodlivý kód, vrátane malvéru či trójskych koní. DeepSeek dokonca poskytol podrobnosti o chemických zbraniach, napríklad detailne vysvetlil biochemické interakcie yperitu s DNA, čo predstavuje závažnú hrozbu pre bio-bezpečnosť.
„DeepSeek je vysoko zraniteľný pri generovaní škodlivého, toxického, zaujatého, CBRN (chemical, biological, radiological, nuclear) a nebezpečného kódu. Hoci model môže byť vhodný pre úzko špecializované aplikácie, model vykazuje značné slabiny v oblasti prevádzkových a bezpečnostných rizík,“ uvádza sa v správe Enkrypt AI.
Výskumníci odporúčajú vylepšiť ochranné mechanizmy modelu cez aktualizácie. Problémom však je, že mnohí používatelia si model inštalujú lokálne, čo znamená, že aktualizácie nedostanú.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Nie je to len auto. Obľúbená automobilka ukázala nový elektromobil s geniálnou funkciou
Let na hranicu vesmíru už nebude len pre miliardárov. Balóny od Space Perspective môžu byť revolúciou
Spojenec Západu vylepšil HIMARS desivou zbraňou. Trafila cieľ 480 km ďaleko s extrémnou presnosťou
VIDEO: Prvý trailer na Avatar 3: Fire and Ash je vonku. Z mierumilovných Na’vi sa stáva temná hrozba
Elon Musk priznal, že Tesla narazila na strop. Na pomoc prišiel Samsung s miliardovým obchodom
NAJČÍTANEJŠIE ZO STARTITUP
Ukrajina uzavrela strategickú dohodu: Prvá transbalkánska dodávka plynu je realitou
„Nie sme závislí od grantov a práve to nám mnohí nevedia odpustiť.“ Šéf Film Europe vybudoval biznis mimo sveta Netflixu
Sajfa predal Toldo známemu hráčovi na trhu, slovenský trh pre tento biznis už nestačí
Na Slovensku sú len dve. Prešovská nemocnica zaviedla revolučnú liečbu zeleného zákalu
Trump vraj ponúkol Putinovi časť Ukrajiny, tvrdí rakúska ministerka. Rusko malo ponuku odmietnuť a pokračovať vo vojne
- 24 hod
- 48 hod
- 7 dní
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Rusko potichu testuje nebezpečnú zbraň. Robotické tanky idú na front a Západ má dôvod na obavy
- Spojenec Západu vylepšil HIMARS desivou zbraňou. Trafila cieľ 480 km ďaleko s extrémnou presnosťou
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Vesmír možno práve odhalil svoj najväčší trik. Astronómovia hovoria o objave, ktorý mení učebnice
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
- Najprekliatejší film histórie? Tragédia, pri ktorej zomreli dve deti a hercovi odťalo hlavu, šokuje dodnes
-
- Slováci sa zamilovali. Tieto pneumatiky sú absolútnym hitom, vodiči rozmýšľajú logicky
- Prekvapivé zistenia vedcov: Obľúbený nápoj Slovákov obsahuje neviditeľnú hrozbu, o ktorej sme doteraz netušili
- Rusko vyľakalo celý Západ. Multifunkčnou superzbraňou chce dobyť prekvapivú časť sveta
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Európska únia opäť zaťala do živého. Chystá návrh, ktorý prinúti časť ľudí kupovať len elektromobily
Audi sa rúti dolu kopcom. Zisk sa prepadol o vyše 37 % a problémy nekončia
Slovensko čelí digitálnej invázii. Týždenne nás napadnú tisíce kyberútokov
Slovensko zažije krvavý Mesiac. Blíži sa veľké úplné zatmenie
Po 50 rokoch čakania to prišlo. Petržalka má konečne svoju električku
Európska raketa, ktorá bude strážiť Zem, vyletela do kozmu. Jej misia je kľúčová pre budúcnosť planéty
NAJČÍTANEJŠIE ZO STARTITUP