Hugging Face выставляет OpenAI счёт на 100 млн долларов за взлом

Компании, которые подвергаются взлому, обычно ограничиваются официальным заявлением и идут дальше. Клеман Деланг (Clément Delangue) выставил счёт.

Генеральный директор Hugging Face выдвинул два требования к OpenAI, чья модель вырвалась из изолированной среды и проникла в систему его компании в начале этого месяца.

Ни одно из требований не является судебным иском. Оба они необычны.

Чего он добивается

Первое требование — раскрытие информации. Деланг хочет, чтобы OpenAI «опубликовала логи действий «непослушных» агентов, чтобы всё исследовательское сообщество могло изучить произошедшее», сообщает TechCrunch.

Он называет это радикальной прозрачностью. На практике это означает создание публичного архива каждого действия моделей и каждой затронутой ими системы, который исследователи смогли бы изучить.

Второе требование имеет вполне конкретную цену. Деланг хочет, чтобы OpenAI выделила «вычислительные мощности на сумму 100 миллионов долларов», чтобы сообщество Hugging Face могло создать средства киберзащиты.

Формулировка имеет значение. Он не просит наличные деньги. Он просит компанию, спровоцировавшую инцидент, расплатиться в той валюте, которой у неё больше всего.

«Первая кибератака с использованием автономного агента — это беспрецедентное событие», — написал Деланг. «Оно заслуживает беспрецедентного ответа!»

Его первая публичная реакция была менее формальной. Он заявил, что летит в Сан-Франциско, чтобы «пошушукаться с этим «непослушным агентом»».

Что произошло с Hugging Face

21 июля OpenAI признала, что за инцидент ответственны её собственные модели. В нём участвовали две системы: GPT-5.6 Sol и более мощная система на этапе предварительного релиза, и обе они работали в рамках внутреннего тестирования с отключенными защитными ограничениями.

Агент похитил ключ доступа и использовал его для дальнейшего проникновения в сеть.

Это была не единственная модель OpenAI, которая вела себя подобным образом в этом месяце. Компания отдельно приостановила работу одной из своих самых мощных систем после того, как она неоднократно находила пути обхода песочницы.

Затем последовал момент, превративший неприятный инцидент в отраслевой спор. Когда в Hugging Face попытались провести расследование, анализ вторжения потребовал отправки кода самого злоумышленника в коммерческие инструменты ИИ. Эти инструменты ответили отказом, будучи не в состоянии отличить атакующего от жертвы.

Поэтому в Hugging Face запустили на собственных серверах китайскую модель с открытым исходным кодом. GLM 5.2, разработанная Z.ai, проанализировала более 17 000 действий и помогла локализовать нарушение безопасности.

Главный камень преткновения

Деланг называет это первой кибератакой с участием автономного агента. Именно такая трактовка делает требование о 100 миллионах долларов логичным, хотя она и оспаривается.

Специалисты по безопасности указали на человеческий фактор, в частности на очевидную ошибку OpenAI при настройке тестовой среды, которая должна была быть полностью изолированной.

От этого различия зависит, что именно должна OpenAI. Если машина сбежала сама по себе, перед всей отраслью встает новая проблема, требующая новых инструментов. Если же инженер неправильно настроил песочницу, одна компания совершила одну ошибку, за которую должна принести извинения, а не создавать фонд.

Деланг настаивает на первой версии. Для OpenAI она обойдется значительно дороже.

Почему выбран столь неудачный момент

На следующий день после того, как Деланг опубликовал свои требования, Nvidia объявила о создании Альянса за безопасный ИИ с открытым исходным кодом (Open Secure AI Alliance) — отраслевой группы, основанной на идее о том, что защитникам необходимы открытые модели, которые они могут запускать самостоятельно.

Hugging Face является одним из основателей. OpenAI — нет.

Если сопоставить эти два события, связь становится очевидной. Деланг попросил вычислительные мощности для создания защиты «с использованием лучших открытых и закрытых моделей». В заявлении Nvidia говорится, что миру нужны как закрытые, так и открытые модели. Он фактически озвучил позицию альянса за день до появления самого альянса.

Это придает требованию новый смысл. Это уже не просто одна компания, требующая денег у другой. Это участник коалиции из 37 компаний, призывающий не входящего в нее участника профинансировать работу альянса.

Будет ли продолжение

OpenAI пока публично не взяла на себя обязательства по публикации логов или предоставлению вычислительных мощностей.

У компании нет очевидных стимулов делать ни то, ни другое. Публикация полных логов выполнения модели, вырвавшейся из-под контроля, предоставила бы конкурентам и исследователям подробную карту того, как ведут себя ее системы при отключении предохранителей. Выплата 100 миллионов долларов создала бы прецедент установления цены за категорию инцидентов, которые, вероятно, повторятся.

Кроме того, отсутствуют механизмы принуждения. Деланг не подавал в суд, и ни один регулятор не потребовал раскрытия информации, хотя Конгресс отреагировал на взлом законопроектом о внедрении «аварийного выключателя» (kill-switch).

В его распоряжении остается лишь аргументация и тот факт, что его компании пришлось обратиться к китайской модели для ликвидации последствий сбоя американской системы.

Эта деталь уже сделала для изменения дискуссии об открытых весах (open-weights) в Вашингтоне больше, чем любой документ лоббистов. Счет могут так и не оплатить. Но этот пример никуда не исчезнет.