Ньюсом предлагает внедрить «аварийную кнопку» для ИИ в Калифорнии

Гэвин Ньюсом подписал указ, предписывающий рабочей группе в течение двух месяцев подготовить отчет об усилении законов Калифорнии о безопасности искусственного интеллекта, включая вопрос о том, должны ли компании создавать «аварийную кнопку» (kill switch) для передовых моделей. В сентябре 2024 года он наложил вето на законопроект SB 1047, который требовал от разработчиков возможности оперативного полного отключения.

Гэвин Ньюсом в пятницу подписал указ, в котором поручил рабочей группе в двухмесячный срок представить отчет о мерах по укреплению законов Калифорнии в сфере безопасности ИИ, сообщает Bloomberg. Среди прочих мер рабочей группе предстоит рассмотреть обязательство для компаний встраивать «аварийную кнопку» в передовые модели.

Ранее он наложил вето на законопроект, который требовал именно этого.

Законопроект SB 1047 обязывал разработчиков подпадающих под его действие моделей иметь возможность «оперативно осуществить полное отключение», прекратив их работу и дальнейшее обучение. Ньюсом ветировал его 29 сентября 2024 года, аргументируя это тем, что документ регулирует модели на основе их размера и стоимости, а не сфер применения. Законопроект носил название Акта о безопасных и надежных инновациях в сфере передовых моделей искусственного интеллекта (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act).

С тех пор прошло почти ровно два года.

Другая идея в указе касается привлечения независимых третьих сторон для разработки планов безопасности компаний, создающих передовые системы. «Мы не сидим сложа руки,» — заявил Ньюсом. Его офис пока не уточнил, кто именно вошел в состав рабочей группы.

Европа не стала требовать от компаний самостоятельной разработки такой кнопки.

С 2 августа Европейская комиссия получила полномочия ограничивать, изымать или отзывать модели общего назначения с рынка ЕС на основании положения Закона об ИИ (AI Act), о котором мы писали в этом месяце. Это право принадлежит регулятору, а не разработчику.

Это не зависит от того, внедрил ли разработчик какие-либо технические средства у себя.

Закон об ИИ отдельно требует, чтобы оператор, контролирующий систему высокого риска, имел возможность прервать ее работу или остановить ее с помощью специальной кнопки останова. Это правило распространяется на уже развернутые системы, а не на лежащие в их основе базовые модели. Данные обязательства еще не вступили в силу.

До публикации рекомендаций в Калифорнии осталось два месяца.

Ситуация с независимыми экспертами выглядит похожим образом. Закон Калифорнии SB 813 дает штату время до января 2028 года на аккредитацию организаций, способных тестировать передовые модели, в то время как европейская научная комиссия, состоящая из 60 человек, была назначена 1 июня.

Ни одна из сторон пока не определила, кто именно должен оплачивать вычислительные мощности для тестов. Единственный реализованный на практике пример показал, что расходы тестировщика оплачивала проверяемая компания.

Ньюсом занимал разные позиции по этому вопросу. Он поддерживал технологический бум, поскольку тот приносил доходы, а в начале этого года способствовал заключению партнерства по внедрению модели Claude от Anthropic в госучреждения штата. Штаб-квартиры Anthropic и OpenAI находятся в Калифорнии, и обе компании подпадут под действие любых рекомендаций его рабочей группы.