Сэм Альтман заявляет, что OpenAI не станет ждать Конгресса, чтобы замедлить развитие ИИ

Генеральный директор OpenAI Сэм Альтман изложил свое видение того, как индустрия искусственного интеллекта должна замедлить темпы своего развития. Он также заявил, что OpenAI не будет дожидаться действий со стороны Конгресса. В своем посте в X рано утром в понедельник он приветствовал «федеральную структуру, которая устанавливает единые требования безопасности для передового ИИ».

Он добавил одно условие: «Но мы не считаем, что нам нужно ждать антимонопольного исключения или законодательства, чтобы начать работу по обеспечению этой уверенности», — написал он. Каи Никол-Шварц из CNBC охарактеризовал эти публикации как наиболее детальные комментарии Альтмана на сегодняшний день о том, как могут работать системы безопасности ИИ.

В субботу Альтман поддержал призыв генерального директора Anthropic Дарио Амодея «умерить темпы развития передовых технологий». Амодей попросил Вашингтон об антимонопольном освобождении, чтобы компании, занимающиеся искусственным интеллектом, могли согласованно замедлить темпы без юридического риска.

Что, по словам OpenAI, меняется

Альтман написал, что более старые инструменты, такие как «Политики ответственного масштабирования» и «Фреймворки готовности», были сосредоточены в основном на выпуске готовых моделей. Они не охватывали то, что происходит во время разработки модели.

По его словам, OpenAI теперь пишет «явные обоснования безопасности» перед теми этапами обучения, которые, как ожидается, «значительно повысят возможности» модели. Это помимо той работы по безопасности, которую компания уже выполняет перед выпуском моделей. Он отметил, что общие отраслевые стандарты в отношении несоответствия целей, мониторинга и безопасности приведут к лучшим результатам. OpenAI также «воодушевлена такими идеями, как независимые аудиторы», написал он.

Он четко обозначил пределы замедления. «Когда мы говорим о «темпе», мы не имеем в виду «остановку»», — написал Альтман. Прогресс все равно должен быть «медленнее, чем мог бы быть в противном случае», добавил он, поскольку обоснование безопасности и мониторинг сопряжены со значительными затратами.

«Никакое американское конкурентное давление не может оправдать безрассудство или позволить возможностям опережать безопасность и мониторинг», — написал он. По его словам, OpenAI потребуется помощь правительства в международном сотрудничестве. Но компании должны сначала сделать все от них зависящее самостоятельно.

Два риска, которых Альтман хочет избежать

Во втором посте, опубликованном 13 минут спустя, Альтман назвал два сценария, при которых прогресс в области ИИ «мог бы пойти по очень плохому пути». Первый заключается в том, что человечество потеряет «контроль над будущим в пользу ИИ», что он назвал неприемлемым.

Второй — «слишком высокая концентрация власти». Один человек или одна компания могут использовать чрезвычайно мощный ИИ, чтобы навязать свое мировоззрение всем остальным. В этом случае «результаты могут оказаться крайне антиутопическими», написал он. В качестве примеров он привел ситуацию, когда одна страна или одна лаборатория получают слишком много власти.

Альтман высказал аналогичные мысли в интервью главному редактору Fortune Элисон Шонтелл, записанном в пятницу. «Сегодня мы явно находимся в той точке кривой, где есть огромный потенциал и реальный риск», — заявил он Fortune. В том же интервью он сказал, что OpenAI не будет проводить IPO в этом году.

Изменение политического курса OpenAI

Эти публикации последователи за призывом OpenAI на прошлой неделе о введении обязательных национальных требований безопасности ИИ в США. В понедельник руководитель отдела политики компании в Европе также заявил, что компания поддержит обязательные правила регулирования ИИ в Великобритании.

OpenAI не всегда придерживалась этой позиции. В письме 2025 года компания предупредила губернатора Калифорнии Гэвина Ньюсома, что «лоскутное одеяло из правил штатов» может замедлить инновации. Эмили Форлини рассказала об этом изменении в статье для Fortune. По данным Fortune, теперь компания сотрудничает с законодателями штатов при разработке их законопроектов.

Скептики

Не все воспринимают призывы индустрии за чистую монету. Дэвид Сакс, бывший куратор Белого дома по вопросам искусственного интеллекта и криптовалют, заявил, что поддерживает компании, решившие замедлить темпы. Однако он призвал их «перестать притворяться, что мотивация к замедлению носит исключительно альтруистический характер», как сообщает The Wall Street Journal. TNW освещал его реакцию в субботу.

Как пишет Journal, некоторые скептики утверждают, что у OpenAI и Anthropic есть финансовые причины для отсрочки выхода на биржу, а не только соображения безопасности. Кампания по безопасности ИИ Макс Тегмарк назвал заявления руководителей шагом в правильном направлении. Он заявил изданию, что они должны пойти дальше и сделать свои добровольные обязательства юридически обязывающими.

Президент Дональд Трамп отверг эти призывы в воскресенье. По его словам, передает CNBC, замедление не требуется и оно поставит под угрозу лидерство Америки перед лицом Китая.