Письмо, датированное 15 октября, стало ответом на указ, подписанный губернатором Гэвином Ньюсомом в сентябре. Указом была создана рабочая группа, которая в течение двух месяцев должна предложить, как усилить калифорнийские законы о безопасности ИИ. Один из вопросов — должны ли разработчики иметь возможность отключать свои модели.
Представитель Anthropic подтвердил подлинность письма, однако в офисе Ньюсома оперативно не ответили на запрос.
«Если в ходе проверки выясняется, что модель представляет серьезную угрозу, у правительства должна быть возможность обратиться в суд с требованием ее заблокировать», — написали в Anthropic.
Согласно предложению компании, независимые эксперты будут сообщать о рисках генеральному прокурору Калифорнии. Если генпрокурор усмотрит угрозу катастрофического ущерба в ближайшей перспективе, он сможет попросить суд приостановить работу модели, сообщает Politico. Судебный приказ может остановить ее выпуск, использование внутри компании или дальнейшую работу над ней.
Anthropic также хочет, чтобы внешние аудиторы по безопасности работали непосредственно в ведущих ИИ-компаниях. Фирмы будут делать взносы в государственный фонд, а не платить аудиторам напрямую. Кроме того, крупные разработчики должны будут публиковать отчеты о рисках не реже одного раза в полгода.
Что касается «аварийных выключателей», Anthropic согласилась, что каждая ведущая ИИ-компания должна иметь возможность быстро отключать свои модели.
Однако, по мнению компании, закон, сосредоточенный только на отключении, может создать ложное чувство безопасности. Вместо этого она поддержала более точечные меры — например, отключение отдельного ИИ-агента или прекращение доступа для конкретного клиента.
OpenAI направила Ньюсому собственные рекомендации 20 октября: компания поддержала механизмы отключения и штатных аудиторов, но не судебные приказы о блокировке опасных моделей, сообщает Politico.
Аналогичную позицию Anthropic отстаивает и в Вашингтоне. Распространенный ею проект федерального закона позволил бы Министерству торговли в отдельных случаях обращаться в федеральный суд с требованием заблокировать выпуск модели.
Члены Палаты представителей также предложили закон AI Kill Switch Act, который позволил бы чиновникам обязывать ИИ-компании отключать опасные модели.
Опубликовано 29 октября 2026 - 01:19 Наверх
