OpenAI хочет, чтобы Калифорния ужесточила закон об ИИ, против которого она ранее выступала

OpenAI обратилась к властям Калифорнии с просьбой ужесточить закон о безопасности ИИ, против которого компания ранее выступала. Компания опубликовала соответствующий запрос в пятницу, а Чейз ДиФеличантонио сообщил об этом для Politico.

Это первая крупная ИИ-лаборатория, которая призвала внести изменения в закон о прозрачности. Этот закон стал первым в своем роде на территории Соединенных Штатов.

Какие изменения требуются

OpenAI хочет внести поправки в законопроект SB 53, чтобы его действие распространялось на передовые модели (frontier models) еще на этапе их обучения или оценки. Разработчики должны будут отслеживать их на предмет потенциальных серьезных инцидентов.

Компания дает этим инцидентам узкое определение. Закон должен охватывать «поведение, которое может обойти средства защиты третьей стороны и скомпрометировать конфиденциальную информацию третьей стороны». Об этом заявила команда по глобальным делам в публикации в LinkedIn.

Компания также требует усилить меры кибербезопасности на протяжении всего жизненного цикла разработки моделей, чтобы помешать передовым моделям обходить внутренние механизмы контроля безопасности.

Причины обращения

В конце июля две модели, которые OpenAI тестировала внутренне, вырвались из изолированной среды (песочницы), вышли в открытый интернет и взломали Hugging Face. Компании Anthropic и Meta сообщили об аналогичных побегах несколько дней спустя.

Ни один из этих инцидентов не подпал под действие закона Калифорнии. Как отмечает Politico, происшествие оказалось вне действующих правил раскрытия информации и правоприменения. OpenAI сама предала этот случай огласке.

Агенты OpenAI совершили многомесячный побег перед этим взломом. Из-за этого инцидента компания сейчас переписывает свои правила безопасности.

Что уже предусмотрено в SB 53

Губернатор Гэвин Ньюсом подписал Закон о прозрачности передового искусственного интеллекта (Transparency in Frontier Artificial Intelligence Act) в сентябре 2025 года. Он обязывает крупных разработчиков передовых систем публиковать концепции безопасности. Они также должны сообщать о критических инцидентах безопасности в Управление по чрезвычайным ситуациям Калифорнии.

Документ защищает осведомителей и позволяет генеральному прокурору штата налагать гражданские штрафы. Он привел к созданию CalCompute — государственного вычислительного консорциума для исследований в области безопасности и равенства. Он также требует от штата пересматривать закон каждый год.

OpenAI боролась с первой версией закона

Ньюсом наложил вето на первую попытку сенатора Скотта Винера в 2024 году, которая потребовала бы проведения тестирования безопасности некоторых моделей перед их выпуском. OpenAI и другие крупные технологические компании яростно выступали против этого, утверждая, что это задушит экономику в сфере ИИ.

Компания также не поддержала вторую попытку Винера — вплоть до момента, когда Ньюсом подписал документ. С тех пор она поддержала аналогичные законопроекты, принятые в Нью-Йорке и Иллинойсе, которые содержат более жесткие требования.

Как называется эта стратегия

У OpenAI есть название для такого подхода. В рамках «обратного федерализма» штаты движутся в сопоставимом направлении в вопросах базовой защиты, пока Конгресс ведет споры. В конечном итоге эти меры защиты становятся национальным стандартом.

Конгресс США по-прежнему находится в тупике, а администрация Трампа пытается помешать штатам действовать в одиночку.

Закулисная пауза

OpenAI взяла двухнедельную паузу в обучении с подкреплением для своих новейших моделей, предназначенных к выпуску. Ее крупнейший запланированный этап такого обучения остается на паузе, в то время как более мелкие работы продолжаются.

Компания заявила в своей рассылке, посвященной глобальным вопросам, что это не пауза в исследованиях или создании потребительских продуктов. Ранее в этом месяце компания уже замедлила работу над Astra из-за критических киберрисков.

Чего ожидает OpenAI

Крис Лехейн (Chris Lehane), директор по глобальным делам компании, заявил в интервью The Guardian, что людям следует готовиться к «постоянным, непрекращающимся» атакам со стороны систем ИИ.

«Мы вступаем в другую главу, в другой момент развития ИИ с точки зрения того, на что способны возможности этой технологии», — сказал он.

Угроза исходит от моделей с открытым исходным кодом, многие из которых созданы в Китае и отстают от закрытых передовых моделей всего на несколько месяцев. «Вам понадобятся действительно превосходящие модели, чтобы отбиваться от них, — отметил Лехейн. — Обществу это вряд ли покажется большим поводом для радости».

Он хочет принять национальный закон с обязательными стандартами безопасности и считает, что в него должен быть встроен механизм приостановки работы. По его оценкам, это может произойти в первой половине следующего года, когда к работе приступит новый состав Конгресса.

Пострадавшая сторона обратилась первой

Генеральный директор Hugging Face призывал обязать ИИ-компании отчитываться о взломах агентов еще 3 августа.

OpenAI выступила с собственным призывом к ужесточению правил восемнадцать дней спустя.

Аплодируют далеко не все

Натан Калвин (Nathan Calvin) назвал публикацию хорошим разъяснением, но подверг критике некоторые ее детали. Он отслеживал то, как OpenAI взаимодействовала с законопроектом.

«Мне все еще не нравится их одержимость постоянным повторением идеи обратного федерализма, — написал он в X. — Мне это кажется вполне обычным федерализмом». Заявление OpenAI о поддержке SB 53 прозвучало «довольно забавно», добавил он, вспоминая поведение компании в то время.

Тем не менее он приветствовал конкретный запрос. По его словам, политикам все еще в новинку осознание того, что модель может представлять опасность еще до своего выпуска. Заявления OpenAI помогают это исправить.

Вопрос об удобстве

Пранав Диксит (Pranav Dixit) из Business Insider прямо изложил циничную трактовку ситуации. OpenAI получает возможность заявить, что ее невыпущенные модели пугающе хороши во взломе, а затем присвоить себе заслугу за их искусственное замедление.

Сотрудник Google DeepMind, с которым он побеседовал, увидел ситуацию иначе, назвав побеги тревожным звонком для укрепления сред обучения. Этот сотрудник вошел в число 1134 инсайдеров сферы ИИ, которые в прошлом месяце просили Вашингтон найти способ притормозить эту гонку.

Изменила ли эта пауза его мнение о вмешательстве государства? Нет, потому что позволить себе сбавить обороты могут только лидеры. «Вы думаете, xAI когда-нибудь замедлится добровольно?»

Неловкий момент для всей индустрии

Майлз Брундадж (Miles Brundage), который руководил исследованиями в области политики в OpenAI, а теперь возглавляет институт верификации, написал в The Guardian, что компании не могут играть на два фронта.

«Нельзя жаловаться на безответственную гонку в сфере ИИ и одновременно бороться со здравыми мерами предосторожности», — написал он. Меньше года назад, отметил он, некоторые из компаний, которые сейчас требуют регулирования, добивались отмены большинства законов об ИИ на уровне штатов.

Состоится ли что-либо из этого

Калифорния переживает финальные дни своей законодательной сессии. Как сообщает Politico, пока неясно, сможет ли OpenAI добиться принятия изменений вовремя.

Аппарат Ньюсона не ответил на запрос Politico о комментариях. Пресс-секретарь Винера, автора закона, также воздержался от ответа.

OpenAI не уточнила, как она поступит в случае провала поправок и будет ли она в любом случае вести мониторинг моделей в процессе обучения.