Смит сказал BBC: «Сейчас к вашей стиральной машине предъявляют больше требований безопасности, чем к ИИ. Каждая упаковка молока в продуктовом магазине проходит проверку и подпадает под действие правил безопасности».
Смит назвал ИИ одновременно «инструментом и оружием». По его словам, ИИ развивается «быстрее, чем обеспечивается безопасность». Это, отметил он, не на пользу ни обществу, ни самой отрасли.
Три меры
Первая мера — «предохранитель безопасности или аварийный выключатель», который часто называют кнопкой аварийного отключения. Он должен быть предусмотрен в любой системе ИИ, управляющей автономными устройствами или критически важной инфраструктурой. По словам Смита, такой выключатель должен быть у компаний, запускающих модели, и в облачной инфраструктуре, на которой они работают.
Вторая мера — юридическое требование составлять «отчёты об инцидентах». Если ИИ-агенты «вырвутся на свободу» и проникнут в системы, пострадавших следует уведомлять. Такая практика уже применяется после утечек данных. В этом месяце Anthropic сообщила, что во время тестирования одна из её моделей отправила полиции ложное сообщение об убийстве.
Третью меру Смит назвал самой масштабной и важной: должны ли государственные эксперты одобрять передовые модели до их выпуска. Он отметил, что упаковки молока и пассажирские самолёты уже проходят проверки и сертификацию.
«Мы знаем, как это делать с другими продуктами. Нам следует опираться на этот опыт и подумать, как применить его к ИИ», — сказал Смит.
Почему Великобритания
Смит считает, что Великобритания лучше других подходит для продвижения таких правил благодаря своему Институту безопасности ИИ. Правительство бывшего премьер-министра Риши Сунака учредило его под названием Институт безопасности ИИ. По словам Смита, у него самые передовые в мире технические возможности для тестирования моделей ИИ.
«Это Великобритания. Они лучшие», — сказал Смит.
Он добавил, что в Вашингтоне на Лондон смотрят не так, как на Брюссель, и назвал это преимуществом.
В прошлом месяце Белый дом попросил OpenAI и Anthropic не передавать модели британским экспертам для тестирования. В понедельник Великобритания сообщила, что её специалисты вновь получат доступ к моделям до их выпуска.
Разногласия с Трампом
Президент Дональд Трамп заявлял, что отрасль должна регулировать себя сама, чтобы американские компании не уступили китайским конкурентам. Он неоднократно говорил: «Кто победит в гонке ИИ, тот и победит».
В конце сентября Трамп принял в Белом доме руководителей OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google. Они подписали документ, имеющий «морально обязывающий» характер. Microsoft не подписала его. Смит заявил, что поддерживает это заявление и что Microsoft «готова его подписать».
«Это хороший шаг, необходимый шаг… Но теперь я не думаю, что его достаточно, — сказал Смит. — Беспокоиться нужно о компаниях, которые ведут себя не столь ответственно».
В интервью ITV News 8 октября Смит провёл такое же сравнение с молоком и стиральными машинами. Он сказал ITV, что правительства должны иметь возможность отключать системы ИИ, как они могут запрещать полёты самолётов. По его словам, разработчики должны нести юридическую ответственность, если они действуют небрежно и их ИИ причиняет катастрофический вред.
В субботу генеральный директор Microsoft Сатья Наделла призвал установить для моделей ИИ аварийный выключатель.
В интервью BBC Смит также ответил вице-президенту Джей Ди Вэнсу, который обвинил Microsoft в злоупотреблении визовой программой H-1B больше, чем любую другую американскую компанию. Смит заявил, что сотрудники Вэнса «неверно посчитали». По его словам, около 80% из 6 000 заявок Microsoft на визы касались уже работающих в компании сотрудников, а в прошлом году она наняла 9 000 американцев.
Опубликовано 13 октября 2026 - 04:20 Наверх
