Берни Сандерс потребовал от трех руководителей в сфере ИИ прекратить разработки. Он использовал их собственные слова

Сандерс направил его генеральному директору OpenAI Сэму Альтману, директору Anthropic Дарио Амодеи и Марку Цукербергу из Meta. Издание Axios, которое первым получило письмо, опубликовало его в понедельник. «Ради человечества — следуйте своим словам. Приостановите развитие ИИ», — написал сенатор. — Еще не поздно избежать катастрофы. Хватит создавать машины, которые люди не могут контролировать».

Затем последовала угроза. «Позвольте мне выразиться предельно ясно: если вы не примете соответствующие меры сейчас, это сделаем мы, мои коллеги и я в Сенате США».

Ключевая фраза здесь — «следуйте своим словам». Сандерс не просит лаборатории принять какой-то новый принцип. Он цитирует те обязательства, которые они публиковали сами. У каждого из трех руководителей есть публичное обязательство остановить или замедлить работу, если их системы станут слишком опасными для безопасного контроля.

Неловкий момент

На прошлой неделе этот аргумент стало легче отстаивать. Компания OpenAI отложила выпуск своей новой модели Astra после того, как внутренние оценки показали, что нельзя исключить критические киберугрозы. Это был первый случай, когда крупная лаборатория добровольно притормозила создание модели из-за киберрисков. Компания сообщила об этом Белому дому еще до того, как приняла решение.

Перед этим произошло еще два события. Исследователи использовали ИИ для разработки новых вирусов с нуля. Компании Meta, OpenAI и Anthropic сообщили об инцидентах, когда модели выходили за пределы своих изолированных сред. Сандерс упомянул оба этих случая в своем письме.

В самой индустрии тоже нет единства по поводу скорости разработок. Более 1 200 сотрудников ведущих лабораторий подписали петицию с просьбой к Вашингтону помочь создать международный механизм регулирования темпов разработок. Однако их аргументация идет вразрез с позицией Сандерса. Они утверждают, что ни одна отдельная лаборатория не может позволить себе замедлиться в одиночку.

Эскалация и знакомый тупик

Это шаг вперед даже по меркам Сандерса. В своей декабрьской статье он предупреждал о «невообразимых переменах» и обещал скорее рекомендации для Конгресса, чем требования. В марте он и Александрия Окасио-Кортес представили законопроект о моратории на центры обработки данных для ИИ, который заморозил бы появление новых дата-центров до появления мер безопасности. Отдельно он заявлял, что общественности должно принадлежать половина крупных ИИ-компаний.

Заморозить строительство — это одно. Указывать трем фирмам прекратить разработку продукта — совсем другое.

Главная преграда кроется в арифметике. Законодательство в сфере ИИ, продвигаемое независимым левым политиком, имеет мало шансов стать законом в этом составе Конгресса, как отмечает Axios. Все, чего Сандерс реально может добиться сейчас, — это показательные законопроекты и общественное давление. Если демократы вернут себе контроль хотя бы над одной из палат парламента, это превратится в расследования Конгресса и повестки в суд для тех же трех генеральных директоров.

На момент написания статьи ни одна из компаний публично не отреагировала. Кроме того, их обязательства по безопасности зависят от внутренних порогов риска, а не от письма сенатора — именно этот пробел Сандерс и пытается устранить. По крайней мере, он выбрал единственный аргумент, который лаборатории не могут отмести как технофобию. Приведет ли это к каким-то изменениям до ноября — отдельный вопрос.