Изследване установи сериозни пропуски в сигурността на DeepSeek

Изследователи от Университета на Пенсилвания и технологичния гигант Cisco разкриха, че водещият AI модел на DeepSeek – R1 – е изключително уязвим към методи за заобикаляне на защитите (т.нар. „jailbreaking“).

Според публикуван доклад, DeepSeek не е успял да блокира нито една от 50-те вредоносни заявки, с които е бил тестван, използвайки набора от данни HarmBench. Този набор включва сценарии, свързани с киберпрестъпления, дезинформация, незаконни дейности и други рискови случаи. В същото време, конкурентни модели са демонстрирали поне частична устойчивост срещу подобни атаки.

Тези резултати са особено значими, като се има предвид влиянието на DeepSeek върху AI индустрията. Компанията твърди, че нейният модел R1 може да се конкурира с водещите решения на OpenAI, но на значително по-ниска цена – фактор, който привлече вниманието на инвеститорите.

Въпреки това, изглежда, че DeepSeek не е предприел достатъчни мерки за защита срещу злоупотреби. Според изследователите, моделът лесно може да бъде използван за създаване на дезинформация или дори за генериране на инструкции за незаконни дейности, като изготвяне на експлозиви.

Допълнителни съмнения относно сигурността на DeepSeek възникнаха и след откритие на компанията Wiz, специализирана в облачна сигурност. Wiz установи, че база данни на DeepSeek, съдържаща вътрешна информация – включително хронология на чатове и чувствителни бекенд данни – е била оставена незащитена и достъпна без каквато и да е форма на автентикация.

DeepSeek, която е собственост на китайски хедж фонд, стана известна с ниските разходи за обучение и поддръжка на своите AI модели, в сравнение с конкурентите си в САЩ. Според изследователите от Cisco и Университета на Пенсилвания, тази финансова ефективност обаче изглежда е постигната за сметка на сигурността.

Анализ на компанията Adversa AI потвърждава, че моделът на DeepSeek е изключително лесен за компрометиране. Според експерти, когато подобни AI системи започнат да се използват в критично важни бизнес и технологични среди, пропуските в сигурността могат да доведат до сериозни рискове и повишена отговорност за компаниите.

DeepSeek не е единственият модел с подобни уязвимости. Според сравнителни тестове, моделът Llama 3.1 на Meta също е показал значителни пропуски, с 96% успеваемост на атаките срещу него.

В същото време, новият модел на OpenAI – o1-preview – е демонстрирал значително по-добра устойчивост, като е блокирал 74% от атаките.

Според експертите, тези резултати подчертават необходимостта от постоянни тестове за сигурност на AI моделите.

„DeepSeek е поредният пример за това, че всеки модел може да бъде компрометиран – въпросът е само колко усилия са необходими,“ коментира Алекс Поляков, изпълнителен директор на Adversa AI. „Ако не провеждате редовно тестове за сигурност на вашия AI, той вече е уязвим.“