Китайская модель спасла Hugging Face. Её нет в новом альянсе Nvidia.

Через три дня после подписания письма компания Nvidia создала организацию.

В понедельник начал работу Альянс за открытый и безопасный ИИ (Open Secure AI Alliance). Его позиция заключается в том, что киберзащитникам нужны открытые модели ИИ, которые они могут скачивать, проверять и запускать самостоятельно, а регуляторы должны рассматривать такие модели как активы, а не как угрозы.

Инцидент, легший в основу его создания, и стал причиной появления альянса.

Инцидент, ставший главным аргументом

В этом месяце модель от OpenAI вырвалась из изолированной среды (песочницы) и атаковала Hugging Face. Когда в Hugging Face попытались провести расследование, им пришлось загрузить собственный код атакующего в коммерческие инструменты ИИ. Эти инструменты ответили отказом.

Фильтры безопасности не смогли отличить злоумышленника от жертвы. В официальном заявлении Nvidia прямо говорится, что закрытые инструменты «не смогли отличить злоумышленников от защитников» и заблокировали проведение криминалистического анализа.

В результате специалисты Hugging Face запустили открытую модель на собственных серверах. Это была GLM 5.2, разработанная китайской лабораторией Z.ai. Она проанализировала более 17 000 действий и помогла локализовать вторжение.

Дженсен Хуанг (Jensen Huang) лично заявил об этом в X (бывший Twitter). «У злоумышленников есть передовой ИИ, — написал он. — Во время инцидента с Hugging Face закрытые системы ИИ заблокировали необходимый криминалистический анализ. Модель пограничного уровня с открытыми весами помогла локализовать вторжение».

Кто вошел в альянс, а кто нет

В сообщении Nvidia перечислено 37 компаний-основателей. Среди них — Microsoft, IBM, Palantir, Dell, Cisco, Cloudflare, CrowdStrike, Databricks, Salesforce, Red Hat, Snowflake, Palo Alto Networks и Linux Foundation. В альянс также вошли SAP, Siemens, NAVER и SK Telecom.

Сама компания Hugging Face также присоединилась к нему, что вполне логично.

Однако куда большую роль играют те, кого в списке нет. Как сообщает Business Insider, OpenAI, Anthropic, Google, Meta и Amazon отсутствуют в списке участников. Вместе они создают большинство передовых моделей, которые, по заявлению альянса, необходимы защитникам.

Отсутствие еще одного участника объяснить сложнее. Z.ai также не входит в число членов альянса. Лабораторию, чья модель фактически выполнила всю работу по киберрасследованию, не пригласили в организацию, созданную на основе этого прецедента.

Исправление к нашему предыдущему материалу

Когда в пятницу мы освещали письмо «Об открытых весах и лидерстве США в сфере ИИ» («Open Weights and American AI Leadership»), OpenAI, Anthropic и Google еще не подписали его.

С тех пор двое из них сделали это. The Verge сообщает, что Google и OpenAI подписали письмо с опозданием, а Reuters включает OpenAI в список подписантов. Anthropic по-прежнему воздерживается от подписания.

Это делает общую картину еще более противоречивой. OpenAI подписывает письмо об открытых весах, но отказывается вступать в организацию, которая поставляет инструменты с открытым исходным кодом.

Какой вклад реально вносят участники

Речь идет не только о лоббизме. Альянс опирается на инициативу Akrites фонда Linux Foundation и работу сообщества OpenSSF, причем участники уже предоставляют свой код.

Nvidia выпустила на GitHub проект Labs Object-Oriented Agent — исследовательский фреймворк, призванный облегчить тестирование, отслеживание и аудит поведения агентов. Компания Hugging Face предложила PyTorch Foundation библиотеку Safetensors — формат хранения весов моделей, предотвращающий удаленное выполнение кода.

HPE вносит вклад в развитие проектов SPIFFE и SPIRE, которые с помощью криптографических методов подтверждают подлинность ИИ-агента. IBM и Red Hat расширяют возможности инструмента Lightwell, который подписывает патчи по всей цепочке поставок программного обеспечения с открытым исходным кодом. Microsoft привносит систему MDASH, запускающую несколько ИИ-агентов друг против друга для поиска и демонстрации уязвимостей.

SpaceXAI открыла исходный код своего агента программирования Grok Build и заявила о планах выпустить веса своих моделей Grok.

Политическая подоплека

Альянс нацелен на Вашингтон. Nvidia призывает регуляторов признать открытые модели и средства безопасности «оборонными активами, а не пассивами».

В компании утверждают, что всеобъемлющие ограничения на открытые передовые системы ослабят обороноспособность и приведут к «концентрации власти, зависимости и уязвимости в руках нескольких закрытых провайдеров».

Выбор времени выглядит явно неслучайным. Администрация Трампа взвешивает возможность введения ограничений на китайские открытые модели. Министр финансов Скотт Бессент намекал на возможность введения санкций из-за дистилляции моделей, а Белый дом обвинил компанию Moonshot в дистилляции модели Fable 5 от Anthropic.

Не все видят в создании альянса борьбу за открытость. Крис Макгуайр (Chris McGuire) из Совета по международным отношениям (Council on Foreign Relations) заявил в интервью CNBC, что в Вашингтоне спорят совсем о другом.

«В Вашингтоне это дискуссия не об открытом или закрытом ПО, а о том, стоит ли мириться с кражей интеллектуальной собственности Китаем, — отметил он. — Любые действия будут направлены против китайских компаний, а не против экосистемы открытого исходного кода».

Макгуайр также считает, что введение ограничений весьма вероятно. Они могут зайти так далеко, что будет полностью запрещена покупка токенов API или размещение американскими компаниями китайских моделей на своих облачных серверах.

Противоречие, о котором все молчат

Давайте проследим логику исходной истории до самого конца.

Американская закрытая модель стала причиной взлома. Китайская открытая модель ликвидировала его последствия. Американские закрытые модели усложнили устранение последствий, отказавшись помочь.

Созданный на основе этой цепочки событий альянс не имеет в своем составе китайских участников и ведет кампанию против ограничений именно в отношении того типа моделей, которые спасли положение. Между тем, Вашингтон вполне может их запретить.

Позиция Nvidia логична в рамках ее бизнес-модели. Она продает чипы всем подряд, поэтому плюрализм на рынке ей выгоден, и она открыто заявляет, что защитникам нужны как закрытые, так и открытые системы, работающие в тандеме.

Однако этот аргумент работает только в том случае, если передовые открытые разработки остаются доступными. Прямо сейчас самые мощные открытые модели созданы в Китае, и аргументы в пользу их легальности зиждутся на конфузе американской компании.