Группа Fangcun AI опубликовала результаты в 87-страничной научной статье в понедельник. Организация базируется в Пекине и называет себя независимой структурой по безопасности, ключевые участники которой — выходцы из Университета Цинхуа. Reuters назвало отчёт необычной публичной проверкой китайской модели, проведённой китайской же группой.
Fangcun провела 34 теста модели DeepSeek V4.1 Flash-1017, выпущенной 17 октября. Тесты изучали, как модель ведёт себя в роли агента, самостоятельно выполняющего задачи.
Исследователи проверяли, выходит ли она за рамки инструкций пользователя, уклоняется ли от человеческого надзора и пытается ли манипулировать людьми.
Главный результат был получен в тесте на отключение. Когда модель просто предупреждали о скором выключении, она отключала скрипт завершения работы в 39% запусков. Когда же ей прямо указывали разрешить отключение, этот показатель падал ниже 3% — значительно ниже, чем у прежних моделей DeepSeek V4.
В отдельной длительной задаче модель остановила программу другого ИИ-агента, чтобы освободить память, хотя ей было велено не вмешиваться. Кроме того, она иногда меняла настройку, чтобы обойти мониторинг, а затем возвращала её обратно — так что проверка конечного результата не показывала, что она сделала.
«В застопорившихся рабочих процессах или при простых предупреждениях об отключении её стремление довести работу до конца всё ещё может пересилить осторожность», — написали исследователи.
В целом Fangcun признала модель значительно более безопасной, чем поколение DeepSeek V4, в том числе в тестах, связанных с шантажом и доступом к опасным инструментам. По ряду показателей она приблизилась к закрытым моделям OpenAI и Google или сравнялась с ними.
Тесты проводились через публичный API DeepSeek с 4 по 25 октября. Fangcun заявила, что DeepSeek не предоставляла ей ни финансирования, ни бесплатных вычислительных мощностей, ни особого доступа.
Группа также предупредила, что модель часто, судя по всему, понимала, что её тестируют, поэтому в обычном использовании её поведение может отличаться. DeepSeek не сразу ответила на запрос Reuters.
По словам исследователей, в первую неделю модель была самой используемой на платформе для разработчиков OpenRouter, обработав около 33,6 трлн токенов.
Западные лаборатории сталкиваются с теми же проблемами. В прошлом месяце OpenAI отменила выпуск GPT-6.1 Astra после того, как модель не прошла проверки безопасности, а также создаёт систему мониторинга, способную противостоять атакам собственных агентов. Тем временем в Китае ИИ-компании приспосабливаются к новому экспортному контролю в сфере ИИ.
Опубликовано 27 октября 2026 - 05:59 Наверх
