OpenAI призывает Конгресс ввести обязательные национальные правила безопасности ИИ до ухода на каникулы

OpenAI призвала к принятию в США обязательных национальных правил безопасности в сфере ИИ, основанных на оценке возможностей моделей. Компания представила список требований, которые она хочет распространить как на себя, так и на своих конкурентов, и настоятельно призвала Конгресс принять соответствующее законодательство до ухода на каникулы.

Это предложение было опубликовано в среду Крисом Лехейном, директором по глобальным вопросам компании. В нем содержится призыв внедрить общие протоколы тестирования и независимой оценки, более строгие требования к кибербезопасности, четкие правила отчетности об инцидентах, обязательный мониторинг несоответствия целей моделей (alignment), оперативное письменное уведомление в случае обхода моделью средств контроля безопасности, а также обязательные барьеры оценки соответствия перед развертыванием.

Параллельно с этим OpenAI поддержала четыре законопроекта штата Калифорния, касающиеся независимой оценки, стандартов для аудиторов, проверки на биологические угрозы и защиты детей, использующих чат-ботов.

Губернатор Гэвин Ньюсом подписал два из них во вторник. Компания называет такой подход «обратным федерализмом»: когда штаты создают де-факто национальную основу, которую Конгресс сможет закрепить законодательно в будущем.

Это привычный сценарий для Сакраменто, где OpenAI уже добивалась ужесточения закона, которому изначально противилась, и где споры о том, кто имеет право верифицировать ИИ, разрешаются с помощью тех же законопроектов.

Когда компания просит отрегулировать ее деятельность, обычно это означает, что она просит о регулировании определенным образом. Каждый пункт из этого списка представляет собой то, что хорошо обеспеченная ресурсами передовая лаборатория уже делает, а некоторые пункты компания OpenAI уже публично освещала.

Будучи оформленными в виде федерального закона, эти меры становятся минимальным порогом соответствия, который крупная компания легко преодолевает, в то время как более мелкому игроку приходится создавать для этого целый отдел. Мы уже писали о том, что правила проверки передовых моделей остаются секретными, а с текстом ознакомились лишь те компании, которые уже занимают доминирующее положение на рынке.

Как выясняется, «обратный федерализм» также избирателен в отношении того, какие именно штаты поддерживать. Ранее OpenAI предостерегала от расширения полномочий штатов на федеральные сферы, утверждая, что высокотехнологичные проверки и вопросы национальной безопасности прерогатива федеральных экспертов. Законопроекты же, которые компания поддерживает, касаются безопасности передовых разработок и защиты молодежи.

Компания ничего не сказала о законе во Флориде, где генеральный прокурор предложил ввести на этой неделе уголовные санкции, включая полномочия приостанавливать деятельность ИИ-компаний в штате. «Лаборатории демократии» хороши до тех пор, пока эксперименты остаются одобренными.

Политическая обстановка вокруг этого вопроса также далека от однозначности. Супер PAC (комитет политического действий) Leading the Future, спонсируемый лично президентом OpenAI Грегом Брокманом и основателями Andreessen Horowitz, ведет кампанию против правил регулирования ИИ на уровне штатов и пообещал выделить 5 млн долларов на гонку губернаторов во Флориде.

Это личные деньги Брокмана, а не средства компании, в то время как политический отдел OpenAI действительно поддерживает законопроекты штата в Калифорнии. Обе позиции непротиворечивы, если определяющим принципом является то, *какие* именно правила действуют в штате, а не сам факт их наличия.

Для европейского читателя этот список покажется знакомым, поскольку он в общих чертах повторяет Закон об искусственном интеллекте (AI Act): уровни возможностей, независимая оценка, отчетность об инцидентах, проверка перед развертыванием.

Брюссель принял этот закон, два года выслушивал обвинения в удушении инноваций, а с тех пор согласился смягчить его, причем контроль за его исполнением возложен на команду из 36 человек. Теперь крупнейшая американская лаборатория просит Вашингтон внедрить аналогичную архитектуру, в то время как Вашингтон давит на Европу, требуя смягчить ее подходы.

Это предложение последовало за чередой инцидентов, в ходе которых модели от OpenAI, Anthropic и Meta получали доступ или пытались получить доступ к внешним системам во время тестирования — именно это и покрывает запрашиваемое правило об обязательном письменном уведомлении при обходе моделью средств безопасности. OpenAI просит законодательно обязать ее отчитываться о проблемах того типа, с которым она только что столкнулась.

Компания также взяла на себя обязательства относительно собственного поведения: замедлить или остановить разработку в случае неприемлемых рисков, осуществлять универсальный мониторинг полных траекторий моделей, а также внедрить структуру для отчетности об инцидентах, связанных с несоответствием целей.

Отвечая на самый острый вопрос, компания заявила, что полностью автономное рекурсивное самосовершенствование сегодня не происходит и что к нему не следует стремиться до тех пор, пока это не удастся сделать безопасно. Это более осторожная формулировка, чем те, к которым обычно прибегает индустрия, но она по-прежнему не накладывает на компанию никаких конкретных обязательств перед кем-либо.