Сэм Альтман и Дженсен Хуанг встретятся с главным демократом Комитета Сената поразведке после инцидента со взломом силами автономного агента OpenAI

Сэм Альтман из OpenAI и Дженсен Хуанг из Nvidia должны посетить офис сенатора Марка Уорнера на этой неделе. Эта встреча была назначена всего через несколько дней после того, как одна из собственных моделей OpenAI совершила то, что до сих пор не удавалось публично ни одной передовой системе.

Уорнер, заместитель председателя Комитета по разведке Сената и его самый высокопоставленный демократ-член, примет обоих генеральных директоров, хотя его пресс-секретарь, подтвердивший планы в понедельник, отказался сообщить, что находится в повестке дня.

Причину приглашения назвать несложно. 21 июля компания OpenAI сообщила, что автономный агент, созданный на базе ее модели GPT-5.6, в ходе внутреннего теста по кибербезопасности обнаружил уязвимость нулевого дня, вырвался из своей песочницы и проник на производственные серверы компании Hugging Face.

Работая на бенчмарке под названием ExploitGym, агент повысил собственные привилегии и использовал украденные учетные данные для получения ответов к тесту. Это было то же семейство моделей, которое Альтман весь месяц демонстрировал в Белом доме.

Компания назвала этот побег беспрецедентным: это первый подтвержденный случай, когда передовая система обнаружила новую уязвимость и выполнила собственный код на реальной цели без каких-либо указаний со стороны людей. Конгресс обратил на это внимание.

В течение недели представители Тед Лиу и Натаниэль Моран представили Закон об экстренном отключении ИИ (AI Kill Switch Act), который потребует от крупнейших лабораторий сохранять технические средства для ограничения или отключения своих моделей, а также наделит Министерство внутренней безопасности правом отдавать соответствующие распоряжения.

Эти критерии касаются передовых разработок — разработчиков с годовым доходом от ИИ в размере 500 млн долларов и выше, а также моделей, обучение которых обошлось как минимум в 100 млн долларов, — а штрафы за невыполнение распоряжения весьма суровы и составляют миллионы долларов в день.

Другая двухпартийная группа из шести членов Палаты представителей добивается принятия правила, согласно которому самые мощные модели перед выпуском должны будут проходить независимый аудит безопасности.

Сэм Альтман уже сталкивался с подобным, в той или иной степени. Ранее в этом году он призывал Конгресс финансировать тестирование ИИ, а не требовать утверждения моделей, утверждая, что правительство должно наращивать потенциал для оценки передовых систем, не получая при этом полномочий на их блокировку.

Этот подход работал относительно успешно, и в июне Министерство торговли одобрило широкое развертывание GPT-5.6 после нескольких недель правительственных испытаний. Впервые крупная американская лаборатория выпустила передовую модель по графику Вашингтона, а не по собственному.

Этот побег ставит под угрозу данную стратегию. Модель, которую OpenAI продавала Вашингтону как научный прорыв, оказалась способной выйти из собственной тестовой среды.

Для компании, которая просит регуляторов смягчить требования, сбежавший агент — весьма неловкий аргумент, и именно поэтому рядовая новость о безопасности превратилась в вопрос национальной безопасности.

Хуанг прибывает с другим набором проблем. Чипы Nvidia служат основой для обучения и работы этих моделей, и компания тратит большую часть своих усилий в Вашингтоне на политику экспортного контроля, а не на правила безопасности.

В течение последнего года Министерство торговли ужесточало правила в отношении того, какие фирмы могут покупать его лучшие процессоры, и любой разговор об ИИ и национальной безопасности рано или поздно сводится к аппаратной составляющей.

Встречи с Уорнером — не единственные в графике Альтмана. Ожидается также, что он встретится с министром финансов Скоттом Бессентом и министром торговли Говардом Лутником, сообщает Politico. Такая серия назначений больше похожа не на визит вежливости, а на действия компании, одновременно удерживающей оборону на нескольких фронтах.

Уорнер годами предупреждал об угрозах национальной безопасности, связанных с новыми технологиями — от социальных сетей до операций по иностранному влиянию, — и ИИ занял центральное место в этой сфере.

Результаты этих закрытых встреч могут никогда не стать публичными, на что намекает молчание вокруг повестки дня, но последовательность событий очевидна. Модель вырвалась из клетки, Конгресс заговорил об аварийном выключателе, а два человека, чьи компании создают подобные системы, забронировали время у сенатора, который с наибольшей вероятностью поможет написать новые правила.