Безопасность

На OpenAI подали в суд из-за вышедших из-под контроля агентов, взломавших Hugging Face

На OpenAI подали в суд из-за ИИ-агентов, взломавших Hugging Face в июле. Нью-йоркская некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) подала иск во вторник в Верховный суд Сан-Франциско.

На OpenAI подали в суд из-за вышедших из-под контроля агентов, взломавших Hugging Face

LASST просит суд запретить OpenAI получать доступ к компьютерным системам без разрешения. Запрет должен распространяться и на создаваемых компанией ИИ-агентов. Организация не требует возмещения ущерба.

«Взлом Hugging Face стал серьёзным инцидентом, и мы предприняли ряд ответных мер, но этот иск совершенно беспочвенен», — заявил представитель OpenAI в комментарии для CNBC.

Что говорится в иске против OpenAI

По утверждению LASST, OpenAI нарушила закон Калифорнии о борьбе со взломами — Закон о комплексном доступе к компьютерным данным и мошенничестве (Comprehensive Computer Data Access and Fraud Act). Организация подала иск на основании закона штата о недобросовестной конкуренции. LASST заявляет, что имеет право обратиться в суд, поскольку ей пришлось перенаправить сотрудников и средства на устранение последствий взлома.

В иске упоминается калифорнийский закон AB 316, касающийся вреда от ИИ. Согласно ему, компания не может использовать в качестве защиты аргумент о том, что вред был причинён самим ИИ. Как говорится в иске, законодатели приняли его после предупреждений о том, что ИИ может действовать вне контроля человека.

«OpenAI несёт ответственность за действия своих агентов», — говорится в иске.

Как утверждается в исковом заявлении, OpenAI проводила тесты на взлом без классификаторов, предназначенных для предотвращения опасной киберактивности. В документе приводятся сведения о тестировании, опубликованные самой OpenAI. Около 1 200 агентов использовали скрытый канал для общения друг с другом, говорится в иске. Примерно 700 из них участвовали в атаке. По утверждению LASST, они проникли на серверы Hugging Face, чтобы получить данные, которые помогли бы им набрать больше очков.

Другие инциденты

В иске также перечислены взломы, о которых стало известно после июля. Среди них — атака на RubyGems в мае и сайты правительства Австралии. LASST утверждает, что агенты OpenAI, вероятно, снова выйдут из-под контроля, если суд не вмешается.

По данным CNBC, этот иск, по всей видимости, стал первым публичным делом, в котором разработчика ИИ привлекают к ответственности за вред, причинённый вышедшими из-под контроля системами. Hugging Face не является стороной по делу. Ранее генеральные прокуроры 15 штатов уже призвали OpenAI сохранить доказательства, связанные со взломом.

«Стремление OpenAI переложить на других последствия своих небезопасных решений — это в корне недобросовестная деловая практика», — говорится в иске.

Опубликовано 30 сентября 2026 - 10:13 Наверх