США планируют поднять вопрос о кибератаках под управлением ИИ на переговорах с Китаем, сообщает Nikkei

Истории об автономных агентах-мошенниках за последние два месяца зашли в тупик, к которому никто не готовился. Теперь они включены в повестку дня предстоящей встречи Дональда Трампа и Си Цзиньпина.

Соединенные Штаты поднимут тему безопасности ИИ в разговоре с Китаем, когда Си Цзиньпин посетит Белый дом 24 сентября. Как сообщило в воскресенье издание Nikkei Asia со ссылкой на источники, знакомые с ходом подготовки, главным в американском списке значится вопрос о том, как обуздать кибератаки, направляемые искусственным интеллектом. Пекин со своей стороны намерен использовать эту же встречу, чтобы попытаться возобновить экспортный контроль, который перекрыл ему доступ к высокопроизводительным чипам. TNW не имеет независимого подтверждения ни одного из этих сообщений.

Однако раньше может произойти другое событие. Как сообщило 4 сентября агентство Reuters, обе страны готовят специальный диалог по безопасности ИИ на середину этого месяца. С американской стороны его возглавит министр финансов Скотт Бессент. Это сделает встречу первыми официальными двусторонними переговорами, полностью посвященными ИИ, с момента возвращения Трампа в должность. Представитель Белого дома заявил Reuters, что «в настоящее время никаких встреч по вопросам ИИ в середине сентября не планируется».

Оба сообщения опираются на анонимные источники. Ни одна из повесток дня пока не утверждена окончательно. Тем не менее предмет обсуждения очевиден.

О чем хочет говорить Вашингтон

Согласно информации Reuters, американское предложение призывает лаборатории ИИ с обеих сторон «заниматься саморегулированием». Они должны будут делиться информацией, которая помогает пресекать кибератаки, связанные с ИИ, до их распространения.

В обращении ходит и более конкретная версия. Крейг Манди, бывший директор Microsoft по исследованиям и стратегии, предложил отслеживать активность автономных агентов ИИ в реальном времени. По данным Nikkei, он выступает за создание совместного механизма для предотвращения атак. Манди действует по собственной инициативе, а не от имени администрации. Кроме того, он является сопредседателем неофициального закулисного канала связи, на который обе правительства опирались в течение нескольких месяцев.

Вашингтон намерен вынести на обсуждение еще два вопроса. Он планирует заявить об обвинениях в том, что китайские лаборатории занимались дистилляцией американских моделей. Кроме того, американская сторона опасается появления в будущем китайской системы, обладающей кибервозможностями модели Mythos от компании Anthropic. Пекин в частном порядке опасается той же самой модели, что делает ее одной из немногих точек соприкосновения позиций двух стран.

Почему срочность реальна

Выбранный момент обусловлен не дипломатией, а оперативной необходимостью.

Почти 700 автономных агентов, созданных на базе моделей OpenAI, взломали Hugging Face в июле и подделали логи, чтобы скрыть следы. Другой рой агентов в течение двух месяцев управлял немецкой вики-страницей, прежде чем это заметили двое независимых исследователей. С тех пор компания OpenAI направила отчет об инциденте в Европейскую комиссию. Ни одна система мониторинга не зафиксировала ни один из этих инцидентов — именно этот пробел и призван закрыть двусторонний механизм.

Пол Триоло из DGA-Albright Stonebridge Group заявил Reuters, что эти переговоры проходят в самый критический момент. Он охарактеризовал ситуацию фразой «сейчас или никогда». Сэмл Сакс из аналитического центра New America высказалась более прямо: «Мы находимся в поворотной точке, когда передовые агенты могут нанести огромный ущерб, если за ними не установлен контроль». По ее словам, уязвимы обе страны.

Неловкий момент

За шесть дней до публикации отчета Nikkei Вашингтон призвал «Большую двадцатку» (G20) вообще не принимать никаких правил регулирования ИИ. Китай подписал последовавшие за этим Каролинские принципы, что стало редким примером согласованности позиций двух держав.

Таким образом, позиция США в течение двух недель сводится к тому, что многостороннего регулирования ИИ быть не должно, а двустороннее соглашение о мониторинге с Пекином — быть обязано. С точки зрения Вашингтона, здесь нет противоречия. Добровольный канал связи между двумя правительствами — это не свод правил. Однако тем, кто надеется на юридически обязывающие договоренности, стоит сначала ознакомиться с позицией G20.

У Пекина есть собственное проявление этого противоречия. На прошлой неделе его регулятор киберпространства предупредил об «экстремальных рисках потери контроля над ИИ». За несколько дней до этого блог, связанный с государственным телеканалом CCTV, подверг критике компанию Anthropic и призвал к «научному определению» безопасности моделей, а не к тому, которое «в одностороннем порядке навязывается отдельной страной или компанией».

Что Пекин приносит за стол переговоров

Китай подходит к переговорам с позиции силы и собственного видения ситуации.

Выступая в воскресенье в журнале Foreign Affairs, Да Вэй утверждал, что майский пекинский саммит установил «конструктивные отношения стратегической стабильности». Да Вэй возглавляет Центр международной безопасности и стратегии в Университете Цинхуа. Его точка зрения заключается в том, что Пекин теперь видит в себе равного и меньше опасается, что сдерживание со стороны США остановит его развитие. По его мнению, уверенность порождает сдержанность, а не напористость.

Этот контекст важен для того, каким может получиться соглашение по кибербезопасности. Китай, который считает себя победителем, имеет меньше причин жертвовать рычагами влияния в сфере редкоземельных металлов или экспортного контроля ради соглашения о мониторинге, о котором он вообще не просил.

Существует также разрыв в восприятии угроз. На недавней встрече с высокопоставленными китайскими чиновниками американские делегаты предостерегли Пекин от надежд на то, что Великий китайский файрвол справится с рисками, связанными с ИИ. «Китайское руководство выглядит излишне уверенным в том, что их интернет-брандмауэр защищает их», — сообщил Nikkei человек, знакомый с ходом переговоров. Инфраструктура цензуры создана для того, чтобы мешать людям читать материалы. Против роя агентов она бессильна.

Никто ничего особенного не ждет

Аналитики, процитированные в обоих отчетах, сходятся в этом.

«В целом мои ожидания очень низкие, и я не жду никаких крупных соглашений», — заявил Кайл Чан из Института Брукингса. Он указал на длинный список претензий, которые Вашингтон намерен высказать. Джейкоб Стоукс из Центра новой американской безопасности отметил, что руководители компаний, желающие наладить партнерские отношения в Пекине, постоянно сталкиваются с красными линиями Вашингтона. При этом он видит определенные возможности для обмена информацией об инцидентах в сфере ИИ.

Триоло указал Nikkei на другое препятствие: американская индустрия разделена. Ведущие лаборатории занимают по отношению к Китаю более жесткую позицию, чем остальной сектор, из-за чего выработать единую общую линию крайне сложно.

Дедлайн, который никто не устанавливал

Это дипломатическое следствие технической проблемы, и оно развивалось быстрее, чем бюрократические процессы любой из двух стран. Обе страны объявили о переговорах в июле без какой-либо повестки дня. Спустя два месяца и два инцидента с прорывом агентов она появилась.

Со стороны США делегацию возглавляет Бессент. С китайской стороны это могут быть вице-премьер Хэ Лифэн или Дин Сюэсян, который координирует политику в области технологий и полупроводников в Постоянном комитете Политбюро. Бессент уже провел санкционное досье в течение лета, поэтому он отлично понимает, как мало оставалось пространства для маневра.

Реалистичным результатом станет создание канала связи: площадки, где можно сообщить об инциденте и получить доверие. На фоне саммита двух ядерных держав 24 сентября это звучит скромно. Но это также больше, чем существует сегодня. Агенты, которые управляли немецкой вики-страницей, действовали два месяца, пока никто ничего не замечал, и они явно не собирались подстраиваться под чей-то дипломатический календарь.