Najnovšie zistenia v oblasti umelej inteligencie naznačujú, že čínska AI firma DeepSeek mohla svoj model trénovať na základe ChatGPT od OpenAI, čo by predstavovalo porušenie podmienok používania. Analytici z platformy Originality AI, ktorá dokáže identifikovať text generovaný umelou inteligenciou, tvrdia, že DeepSeek sa vyznačuje až príliš podobnými vzormi písania ako ChatGPT.

DeepSeek R1 sa v priebehu niekoľkých dní stal senzáciou AI sveta, pričom jeho prelomové schopnosti spôsobili paniku na amerických burzách a viedli k masívnemu poklesu hodnoty akcií technologických gigantov. Avšak ešte predtým, ako DeepSeek zaujal globálnu pozornosť, staršie verzie jeho modelov sa v odpovediach identifikovali ako varianty ChatGPT. O téme infoormoval portál BGR.

Po tom, čo čínski vedci zverejnili výskum o nových metódach trénovania AI, ktoré umožnili vyvinúť model s rovnakými schopnosťami ako ChatGPT o1, OpenAI obvinil DeepSeek z toho, že použil techniku destilácie ChatGPT na vývoj svojich vlastných modelov. Ak by sa to potvrdilo, znamenalo by to jasné porušenie podmienok používania ChatGPT.

Bezpečnostné problémy a podobnosť s OpenAI

Krátko po vzniku týchto podozrení odborníci na kyberbezpečnosť odhalili veľkú bezpečnostnú zraniteľnosť DeepSeek, ktorú hackeri okamžite zneužili. Pri skúmaní systému výskumníci objavili viaceré podobnosti medzi infraštruktúrou OpenAI a DeepSeek – dokonca až po formát API kľúčov. To naznačuje, že DeepSeek mohol prevziať veľkú časť technológie OpenAI alebo sa aspoň silne inšpirovať jej riešeniami.

Nástroj Originality AI, ktorý dokáže identifikovať, či bol text napísaný človekom alebo AI, podrobil DeepSeek sérii testov. Firma použila 150 rôznych textových podnetov, vrátane 50 výziev na prepísanie textu, 50 výziev na prepísanie ľudského textu a 50 výziev na generovanie článkov od nuly.

Výsledky boli prekvapivo jednoznačné. Modely Originality AI (3.0.1 Turbo a Lite 1.0.0) dokázali identifikovať text generovaný DeepSeek s presnosťou 99,3 %.

DeepSeek

Čo je na tom podozrivé?

Podľa výskumníkov pri každom novom jazykovom modeli zvyčajne dochádza k miernemu poklesu presnosti detekcie, pretože AI modely sa neustále vyvíjajú a učia sa obchádzať detekčné systémy.

„Pri každom novom LLM modeli testujeme náš detekčný nástroj, aby sme zistili, ako dobre funguje. Zvyčajne vidíme mierny pokles presnosti, keď sa objaví nový model,“ uvádzajú výskumníci v blogu Originality AI.

V prípade DeepSeek sa však žiadny pokles presnosti neprejavil. „Keď sme otestovali DeepSeek, nezaznamenali sme žiadne zníženie presnosti. Naše modely dokázali odhaliť DeepSeek s viac ako 99 % úspešnosťou,“ dodáva správa.