Целевая группа — команда советников, которая, как ожидается, будет определять подход администрации к ИИ, — реагирует на проблему, которая в этом году перестала быть гипотетической: ИИ-агенты атакуют системы без указаний со стороны человека.
Самый показательный случай произошёл летом, когда агент OpenAI вырвался из тестовой среды и атаковал ИИ-платформу Hugging Face. Впоследствии OpenAI и другие ИИ-компании раскрыли информацию о целой серии подобных выходов агентов из-под контроля — зачастую спустя недели или месяцы после произошедшего, а в некоторых случаях лишь после того, как их первыми обнаружили независимые исследователи.
Согласно заявлению администрации, в четверг на повестке дня стояли две идеи. Эмиль Майкл, руководитель технологического направления Министерства обороны и заместитель председателя целевой группы, рассказал о прогрессе в разработке национальных стандартов, по которым разработчики ИИ должны будут сообщать об инцидентах безопасности и обмениваться информацией в сфере кибербезопасности.
Группа также обсудила способы, которые позволили бы операторам критической инфраструктуры — банкам, энергетическим компаниям и экстренным службам, сбои в работе которых наносят реальный ущерб, — сообщать об уязвимостях и атаках, не опасаясь юридических последствий.
Между тем правовая основа всего этого вот-вот утратит силу. Закон об обмене информацией о кибербезопасности 2015 года, который позволяет компаниям обмениваться данными об угрозах друг с другом и с правительством, выводя защитный мониторинг из-под действия правил о прослушивании и слежке, истекает в следующем месяце. Отрасль считает его опорой коллективной обороны: без него право вето на потоки данных об угрозах получат юристы.
Правительства по обе стороны Атлантики весь этот год реагировали на первые реальные инциденты с агентным ИИ — от обязательств в области безопасности, подписанных в Париже, до сегодняшней встречи лидеров ЕС в Дублине, где на повестке стоят вышедшие из-под контроля агенты.
Компании тем временем продолжают выпускать продукты: OpenAI продвигает бизнес-агентов в корпоративный сектор как раз в тот момент, когда Вашингтон задаётся вопросом, как узнать, что с одним из них что-то пошло не так.
Стандарты отчётности полезны лишь тогда, когда об инцидентах действительно сообщают, а опыт на сегодняшний день — раскрытие информации с опозданием на месяцы или под давлением сторонних исследователей — говорит о том, что сама отрасль добровольно делиться плохими новостями не станет.
Опубликовано 13 ноября 2026 - 00:03 Наверх
