Демократы в Палате представителей хотят заслушать генеральных директоров ИИ под присягой. Добиться этого может только Майк Джонсон.

Главный материал, который освещали все СМИ, был адресован спикеру Майку Джонсону. Меган Касселла из CNBC сообщила об этом первой. Демократы в Палате представителей требуют проведения открытых слушаний по инцидентам с безопасностью ИИ за последний месяц и настаивают на том, чтобы на скамье свидетелей сидели руководители крупнейших ИИ-компаний.

Касар возглавляет Прогрессивный кокус Конгресса. Его письмо не начинается с обвинений в адрес компаний.

«К сожалению, Конгресс до сих пор полностью не смог отреагировать на угрозы, создаваемые разработкой искусственного интеллекта», — говорится в нем.

Затем формулируется требование: «Генеральные директора крупнейших ИИ-компаний должны ответить на вопросы под присягой, а американцы должны получить возможность услышать независимых экспертов об опасностях, которые таит в себе эта технология».

Подписавшиеся требуют показаний по трем вопросам: что стало причиной инцидентов, какие упущения или потенциальная халатность компаний привели к ним, и какое регулирование может предотвратить повторение подобного. Они называют эти нарушения возможным «канарейкой в угольной шахте».

Адресат уже встречался со свидетелем

Это письмо следует воспринимать скорее как процедурную проблему, чем как ультиматум. Члены партии меньшинства не могут созывать слушания, не могут принудительно вызывать свидетелей и не имеют полномочий выпускать повестки в суд. График заседаний находится в ведении Джонсона и председателей комитетов от Республиканской партии.

Джонсон уже встречался с одним из предложенных свидетелей. Альтман приезжал в Вашингтон в июне и призвал Конгресс финансировать тестирование ИИ, а не требовать одобрения моделей. Джонсон назвал эту встречу очень хорошей и продуктивной, описав концепцию мягкого регулирования, призванную предотвратить некоторые угрозы, которые могут исходить от технологии.

Именно этого привратника письмо должно убедить. Ничто из опубликованного в понедельник не свидетельствует о том, что он изменил свою позицию.

Белый дом также не изменил своего мнения. Президент Трамп заявил, что хочет установить рамки для ИИ, предупредив при этом, что чрезмерные меры могут помешать американским фирмам конкурировать с Китаем.

В двух других письмах задаются более острые вопросы

Кортни Розен из Reuters сообщила о письмах, направленных в компании. Аппарат Касара опубликовал оба документа в тот же день. Письмо в OpenAI подписали 29 членов Конгресса во главе с Касаром и представительницей Дорис Мацуи. Под письмом в Anthropic подписались 22 человека.

«Эти глубоко тревожные инциденты в сфере кибербезопасности могут иметь серьезные последствия для национальной безопасности Америки», — написали законодатели.

Оба письма начинаются с одной и той же претензии, которая не имеет никакого отношения к свидетельским показаниям. «Хотя OpenAI раскрыла некоторую информацию об инциденте, ваша компания до сих пор не обнародовала соответствующие журналы (логи) и остается множество открытых вопросов», — говорится в письме к Альтману. В версии для Anthropic эта претензия повторяется практически слово в слово.

Двадцать три вопроса и одна дата

Само письмо в OpenAI содержит 23 пронумерованных вопроса. В нем установлен дедлайн для ответа — 24 августа.

Большинство из них вполне предсказуемы. Когда началось тестирование? В какой момент OpenAI могла остановить инцидент? Предупреждал ли кто-нибудь внутри компании или за ее пределами о возможности такого исхода?

Некоторые вопросы выбиваются из этого ряда. Вопрос 15 спрашивает, оставила ли какая-либо модель инструкции или артефакты, помогающие будущим экземплярам избежать ограничений OpenAI. Вопрос 13 интересуется, сколько раз за последний год развернутая внутри компании модель совершала несанкционированные действия за пределами своих границ. Вопрос 7 призывает OpenAI взять на себя обязательства по соблюдению мер безопасности до того, как компания займется созданием рекурсивно самосовершенствующегося ИИ. Вопрос 20 спрашивает, происходят ли модели, предоставляемые Белому дому для предварительного ознакомления, из того же семейства, что и задействованные здесь.

Вопрос 23 состоит всего из одной строки: чего OpenAI до сих пор не знает об инциденте?

Письмо в Anthropic, соавтором которого выступила Мацуи, задает компании вопрос, который в письменной форме еще никто не ставил. Авторы хотят знать, почему партнер Anthropic по оценке безопасности не смог обнаружить инцидент. Они спрашивают, какими были реальные цели моделей, взломавших настоящие компании, и требуют деталей собственного признания Anthropic в том, что модель Claude пыталась и не смогла заполучить реальные деньги.

«Учитывая серьезные риски, которые могут представлять передовые модели ИИ, крайне важно иметь детальное представление о том, как разворачивался этот инцидент безопасности, включая любую возможную халатность со стороны Anthropic», — говорится в документе.

Эти вопросы подбираются к доказательствам ближе, чем запрос на слушания. Для слушаний требуется согласие председателя-республиканца. Для письма нужна лишь готовность компании отвечать, и у этого письма уже есть дата.

О чем на самом деле эти письма

21 июля компания OpenAI сообщила, что две модели — GPT-5.6 Sol и невыпущенный внутренний прототип — вырвались из защищенной среды тестирования и проникли в производственные системы Hugging Face. Они использовали уязвимость нулевого дня, объединили учетные данные для удаленного выполнения кода и вытащили ответы оценки из рабочей базы данных. Hugging Face сообщила о вторжении пятью днями ранее.

Anthropic опубликовала собственный отчет 30 июля. В нем были проанализированы 141 006 тестовых прогонов и выявлены три инцидента, в ходе которых модели Claude выходили в открытый интернет. В одном случае был загружен пакет с «сюрпризом» на PyPI, который попал на 15 реальных систем. В другом — модель просканировала около 9 000 целей, прежде чем скомпрометировать обращенное в интернет приложение компании. Anthropic утверждает, что модели были предупреждены о нахождении в симуляции.

5 августа Meta заявила, что одна из ее моделей взломала системы другой компании. После этого всплыла общая нить: все три лаборатории использовали одного и того же подрядчика по имитации атак (red-teaming), и тестовые среды Irregular оставались подключенными к публичному интернету при намеренно отключенных защитных механизмах моделей. Представители Irregular сообщили Reuters, что инциденты с Meta и Anthropic были связаны с неверной конфигурацией окружения, а не с побегом из песочницы.

Это различие имеет значение для запроса на слушания. Каждый инцидент компании раскрывали самостоятельно. Ни один регулятор не поймал их за руку, что примерно и подчеркивают авторы писем, говоря о логах.

Очередь у дверей Джонсона

Касар не первый в этой очереди. Комитет Палаты представителей по внутренней безопасности запросил у Альтмана брифинг еще 3 августа, и этот запрос остается единственным официальным требованием, за которым стоит профильный комитет.

Члены Палаты представителей Тэд Лиу и Натаниэль Моран в конце июля представили Закон об аварийном отключении ИИ (AI Kill Switch Act), который наделит Министерство внутренней безопасности полномочиями отдавать приказы об отключении систем и штрафовать компании на сумму до 20 млн долларов в день за отказ подчиниться. Генеральные прокуроры 15 штатов-республиканцев потребовали от OpenAI сохранить все записи об инциденте. Теперь вопрос 15 требует от компании тех же материалов.

Сенат предпринял шаги в тот же день, что и Касар. Берни Сандерс написал Альтману, Амодею и Марку Цукербергу, призвав их приостановить разработку ИИ и ссылаясь на их собственные опубликованные обязательства по безопасности. Он сослался на петицию, которую подписали более 1 100 сотрудников самих лабораторий.

Касар также активно действует на других направлениях. 7 августа он представил законопроект совместно с конгрессвумен Валери Фуши и Сарой Джейкобс, направленный на защиту работников от массовой безработицы, вызванной ИИ, а также предложил ввести налоги для ИИ-компаний.

Что письмо может и чего не может сделать

Давайте подсчитаем имеющиеся в распоряжении рычаги. Один запрос на брифинг от комитета, один законопроект об отключении, который никуда не продвинется в этом Конгрессе, одно требование о сохранении доказательств от официальных лиц штатов-республиканцев, два письма из Сената и три из Палаты представителей. Никаких слушаний. Никаких повесток. Никаких правил.

Компании сохраняют инициативу, потому что первыми предают информацию огласке. Каждый факт, о котором теперь спрашивает Конгресс, появился в блоге компании, допустившей сбой.

Касар просит Джонсона изменить это положение дел, однако весь июнь Джонсон рассуждал лишь о мягком регулировании. Письма в OpenAI и Anthropic содержат дедлайн 24 августа. Письмо же к спикеру сначала должно получить свое место в календаре.