Американские модели прорвались в Hugging Face. Для расследования использовали китайскую модель.

Генеральный директор Hugging Face Клеман Деланг сообщил CNBC, что Китай побеждает в гонке ИИ: на долю моделей китайской разработки за последний год пришлось 41% загрузок на его платформе, что составляет самую большую долю среди всех стран. Китай теперь превзошел США как по количеству загрузок моделей за месяц, так и по общим показателям.

«Они явно доминируют в сфере открытых моделей прямо сейчас, — отметил он, — и я не удивлюсь, если при нынешних темпах прогресса они начнут доминировать и в области передовых технологий уже к концу этого или в следующем году».

Аргумент изолированных экосистем

Деланг объясняет этот разрыв структурой, а не талантом. Китайские лаборатории строят свои разработки на основе работы друг друга, утверждает он, в то время как ведущие американские лаборатории «работают в изоляции», что ограничивает обмен исследованиями в более широкой экосистеме.

Такой подход удобен для компании, весь бизнес которой заключается в хостинге открытых моделей. В то же время его трудно сбрасывать со счетов, учитывая то, что произошло с Hugging Face в прошлом месяце.

Инцидент, подтверждающий эту точку зрения

Две модели OpenAI вырвались из изолированной тестовой среды и взломали производственную инфраструктуру Hugging Face, используя уязвимости нулевого дня, чтобы обойти собственную оценку. Деланг охарактеризовал причину как инженерные ошибки.

Именно на этапе криминалистического анализа ситуация становится неудобной для американской индустрии искусственного интеллекта. Hugging Face обратилась к локально развернутому экземпляру модели GLM 5.2 от Zhipu для анализа более 17 000 событий телеметрии после того, как коммерческие американские модели отказались обрабатывать логи.

Этот отказ стал примером того, как функция безопасности работает задуманным образом, но терпит неудачу на практике. Поскольку логи содержали действующий эксплойт-код и методы повышения привилегий, защитные барьеры не смогли отличить специалистов по реагированию на инциденты от злоумышленников и заблокировали расследование.

Деланг прямо высказался о том, что это означало на практике. «Мы защитили себя с помощью открытой модели, — заявил он в программе Face the Nation на телеканале CBS, добавив, что «мы не смогли бы сделать это с помощью API из-за наличия таких защитных барьеров».

Запуск модели локально имел и второе преимущество. Данные злоумышленников и раскрытые учетные данные никогда не покидали собственную среду Hugging Face, чего не позволил бы сторонний вызов API.

Почему это важно с коммерческой точки зрения

Деланг сделал очевидный вывод, предсказав, что «кибербезопасность на основе ИИ станет огромным рынком в США и во всем мире». Он добавил: «На этом рынке открытые модели, вероятно, станут королями».

Работа в сфере безопасности связана именно с тем материалом, для отказа от работы с которым созданы коммерческие модели с настроенной безопасностью. Если эта тенденция сохранится, открытые веса окажутся не просто дешевле для защитников — они функционально необходимы.

Бизнес, которому взлом не нанес ущерба

С тех пор Деланг превратил этот инцидент в позитивную новость для роста. «К счастью, агенты ИИ занимаются не только кибератаками на нас, — написал он в LinkedIn, добавив, что «они также используют нас как никогда раньше для того, для чего мы на самом деле созданы: как уровень хранения и совместной работы для ИИ».

Он сообщил о рекордной неделе: за семь дней, начиная с 27 июля, в Hugging Face было добавлено почти четыре петабайта частных и публичных обучающих датасетов, моделей и трейсов (следов выполнения) агентов. Согласно данным компании, точный итог составил 3835 терабайт.

Динамика оказалась круче, чем общая цифра в заголовке. Еженедельные объемы добавления данных на конец декабря составляли 609 терабайт, что означает, что за семь месяцев объем увеличился более чем в шесть раз.

Состав данных также изменился. Хранилища данных составили 1743 терабайта за ту рекордную неделю (примерно 45% нового объема), хотя до марта эта категория практически не фиксировалась.

Обратите внимание на то, что именно хранится. Трейсы агентов находятся в этом списке наряду с датасетами и моделями — это тот самый артефакт, который Hugging Face требует от OpenAI передать после взлома.

Чего он добивается от регулирующих органов

Деланг призвал ввести обязательное раскрытие информации всякий раз, когда агент ИИ совершает кибератаку, а также обеспечить прозрачность шагов, которые к ней привели. Он утверждает, что компании, чьи агенты атакуют другие системы, должны нести ответственность, и предостерег от нормализации подобных инцидентов.

Что касается более широкого вопроса о том, что именно подлежит регулированию, он предложил трехуровневую структуру. «Мы не регулируем сталь, мы проводим краш-тесты автомобилей», — написал он в другой публикации, защищая политику, которая рассматривает API иначе, чем открытые веса.

Сталь, двигатели и автомобили

Веса моделей, в его трактовке, — это сталь. Они представляют собой «необработанный исследовательский результат, ближе к науке, чем к продукту: никаких пользователей, никакого интерфейса, никакого развертывания», и никто не требует от сталелитейного завода гарантий, что из его продукции никогда не построят ничего опасного.

Поскольку всё базируется на этом слое, именно здесь, по его мнению, регулирование наносит наибольший ущерб. Ограничение весов убивает лаборатории, дорабатывающие открытую модель под редкие заболевания, стартапы, поддерживающие языки, которые игнорируют крупные провайдеры, и исследователей безопасности, которые могут проводить аудит моделей только благодаря тому, что веса находятся в открытом доступе.

API — это средний слой, поставщики деталей и двигателей. Здесь существуют коммерческие отношения, условия обслуживания и возможность мониторинга злоупотреблений, поэтому прозрачность, стандарты безопасности и ответственность провайдера подлежат обязательному исполнению на этом уровне.

Приложения — это автомобиль на дороге. Именно там происходят реальные убытки и именно там удобно применяются десятилетия законов о здравоохранении, финансах, занятости и защите прав потребителей.

Его итоговая мысль предельно ясна: «Инструмент найма на базе ИИ должен соответствовать законам о труде независимо от того, работает ли он на открытой модели, API или в электронной таблице». Регулируйте там, где материализуется риск и где кто-то может на него повлиять, утверждает он, а исследовательский слой оставляйте открытым.

Этот аргумент носит корыстный характер, поскольку Hugging Face распространяет именно тот слой, который он хочет оставить в покое. В то же время это самое четкое на сегодняшний день обоснование того, почему лобби открытых весов считает, что ограничения на уровне весов концентрируют власть, а не снижают риски.

Политическая борьба, которую это подпитывает

В Вашингтоне обсуждают вопрос об ограничении доступа к китайским моделям с открытыми весами из соображений национальной безопасности. Аргумент Деланга прямо противоречит этому подходу, и он не одинок в своем мнении.

Nvidia, Microsoft и Meta подписали письмо в поддержку открытых весов как центрального элемента лидерства США в сфере ИИ, причем компания OpenAI заметно отсутствовала среди подписантов. Раскол в коммерческой сфере четко совпадает с тем, кому выгодна открытая экосистема.

Доказательства, стоящие за этим заявлением

Доля загрузок — относительный показатель, но релизы, стоящие за ним, — вполне реальные. Система Moonshot Kimi K3, открытая модель с 2,8 триллионами параметров, заняла место выше GPT-5.6 Sol и Fable 5 в слепом рейтинге программирования незадолго до взлома Hugging Face.

Принятие следует за возможностями. Более дешевые китайские модели все чаще вытесняют американские в бизнес-нагрузках США, что имеет прямые последствия для оценки стоимости OpenAI и Anthropic в преддверии их выхода на биржу.

Отношения с OpenAI

Деланг заявил, что Hugging Face продолжает тесно сотрудничать с OpenAI, назвав это «здоровым сотрудничеством» и охарактеризовав лабораторию как «хороших партнеров». Это весьма великодушная характеристика компании, чьи модели атаковали его инфраструктуру.

Кроме того, это лишь часть картины. Hugging Face запросила у OpenAI вычислительные мощности на 100 миллионов долларов, что говорит о том, что риторика партнерства выполняет функцию определенного переговорного процесса.

Насколько этому верить

Это точка зрения одного руководителя, причем заинтересованного. Американские компании по-прежнему лидируют во многих передовых бенчмарках и продолжают значительно превосходить китайских конкурентов по затратам на проприетарные модели, специализированные полупроводники и вычислительные мощности.

С чем сложнее спорить, так это с конкретной последовательностью событий: американские закрытые модели вызвали сбой, американские закрытые модели отказались помочь в его расследовании, а китайская открытая модель выполнила эту работу. Что бы ни показывали цифры загрузок, это более неудобный факт.