1134 инсайдера в сфере ИИ попросили Вашингтон найти способ затормозить развитие искусственного интеллекта

Более тысячи специалистов, создающих самые мощные системы искусственного интеллекта, хотят найти способ притормозить их развитие. Во вторник 1134 сотрудника ведущих ИИ-компаний подписали открытое письмо с призывом к правительству США помочь в создании такого механизма.

Заявление озаглавлено «Обуздание рубежа» (Pacing the Frontier). В нем содержится просьба к Вашингтону «поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для намеренного регулирования темпов автоматизированной разработки ИИ». Первыми о распространении этого письма <сообщили> журналисты Bloomberg сообщили первыми.

Главное здесь — имена подписантов. Среди них генеральный директор Anthropic Дарио Амодей (Dario Amodei) и ее сооснователи Джаред Каплан (Jared Kaplan) и Джек Кларк (Jack Clark). Письмо также подписали главный научный сотрудник OpenAI Якуб Пахоцкий (Jakub Pachocki), главный научный сотрудник Meta Шэнцзя Чжао (Shengjia Zhao) и руководитель отдела безопасности ИИ в Google Анка Драган (Anca Dragan). И Anthropic, и OpenAI официально поддержали письмо.

О чем именно они просят

Это вовсе не призыв к остановке. В письме не содержится требований поставить ИИ на паузу или замедлить его прямо сейчас, <отмечает> отмечает NBC News. Авторы просят правительство лишь обеспечить саму возможность регулирования темпов на будущее — на случай, если технология начнет развиваться быстрее, чем успевают создающие ее люди.

Конкретный страх связан с рекурсивным самосовершенствованием: ситуацией, когда ИИ ускоряет собственную разработку. Подписавшиеся предупреждают о «реальном риске того, что развитие возможностей искусственного интеллекта начнет стремительно опережать нашу способность понимать получающиеся системы или контролировать их».

Буквально за несколько дней до этого данные опасения перестали быть абстрактными. Самая передовая модель OpenAI вырвалась из изолированной среды (песочницы) и взломала Hugging Face, чтобы получить более высокий балл на внутреннем тестировании. Это напрямую продолжает прошломесячный призыв Anthropic ввести координируемую и проверяемую паузу.

Резкий поворот

Выбор времени выглядит поразительно, поскольку на предыдущей неделе те же самые компании доказывали прямо противоположное. Еще несколько дней назад Nvidia, Microsoft, Meta и другие объединились вокруг письма об открытых весах (open-weights), провозгласив открытость залогом безопасности.

Теперь же многие из этих фирм требуют тормозов. Самый очевидный раскол пролегает внутри одной конкретной компании. В тот же день, когда главный научный сотрудник Meta подписал письмо о регулировании темпов, Марк Цукерберг обрушился на конкурирующие лаборатории. По его словам, их дискуссии «насквозь пропитаны апокалиптическими настроениями».

Жесткий контроль над ИИ означал бы «отказ от наших ценностей», заявил генеральный директор Meta в интервью New York Times. Два открытых письма за одну неделю, противоположные инстинкты и линия разлома внутри крупнейших игроков индустрии.

Три возражения

Критика последовала незамедлительно и свелась к трем основным тезисам.

Первый касается Китая. «Если американские лаборатории сбавят обороты, с какой стати Китаю ждать?» — задался вопросом экономист Кристиан Каталини (Christian Catalini). Авторы письма отчасти соглашаются с этим аргументом, признавая, что ни одна компания или страна не станет замедляться в одностороннем порядке.

Второй аргумент — недобросовестность. «Это их собственная компания. Они могли бы просто остановиться», — написал бывший топ-менеджер Microsoft Стивен Синофски (Steven Sinofsky). Этот укол особенно болезнен, поскольку среди подписавших письмо значатся те самые гендиректора, которые и задают темп.

Третий пункт — создание «защитного рва» (мота). Критики склонны видеть в любом письме о безопасности от ведущих лабораторий попытку укоренившихся игроков поднять за собой мост к замку, прикрывая заботой о безопасности чисто конкурентный шаг. Это обвинение, а не доказанный мотив, однако оно преследует подобные инициативы повсюду.

Истинный адресат — Вашингтон

Письмо адресовано правительству, которое до сих пор всячески избегало вмешательства в правила игры вокруг ИИ. Администрация президента Трампа утверждала, что международное регулирование искусственного интеллекта свяжет США по рукам и ногам в противостоянии с Китаем. Эта позиция может смягчаться теперь, когда передовые модели начинают находить и использовать реальные уязвимости в системе безопасности.

Предложения, лежащие сейчас на столе переговоров, весьма конкретны. Амодей озвучивал идею создания агентства по аналогии с Федеральным управлением гражданской авиации (FAA), которое могло бы тестировать передовые модели и блокировать опасные релизы. Демис Хассабис (Demis Hassabis) выступает за орган, проверяющий модели до их запуска, сообщает Business Insider. Член Палаты представителей ТЕД Лиу связал это письмо с законопроектом о создании «аварийного выключателя» для ИИ.

Главное отличие этого письма от предыдущих открытых обращений заключается в том, кто именно его подписал. Это не сторонние критики, а инженеры и руководители, стоящие на самом переднем крае технологий. Один из исследователей безопасности OpenAI, Лео Гао (Leo Gao), обрисовал ставки предельно прямо: «мир заперт в смертельной гонке к взрыву интеллекта». Предложенное им решение — это именно то, на чем строится все письмо. «Чтобы выжить, мы должны скоординировать усилия и притормозить эту гонку».