AGI

Дэн Хендрикс призывает приостановить разработку передового ИИ, Макс Ходак возражает

Дэн Хендрикс воспользовался саммитом DealBook, чтобы призвать к бессрочной паузе в обучении передовых моделей ИИ. Макс Ходак, участвовавший в той же дискуссии, заявил, что для её обеспечения пришлось бы создать государство тотальной слежки.

Дэн Хендрикс призывает приостановить разработку передового ИИ, Макс Ходак возражает

Они выступили на дискуссии DealBook об общем искусственном интеллекте, которую в среду в Нью-Йорке на саммите DealBook The New York Times модерировал Майкл Барбаро из The Daily. Хендрикс возглавляет Center for AI Safety, а Барбаро сказал, что ещё несколько часов назад был советником по безопасности в нескольких компаниях, занимающихся ИИ. Ходак стал одним из основателей Neuralink, а теперь возглавляет Science Corporation. К ним также присоединились Лайла Ибрагим из Google DeepMind и Мати Станишевски из ElevenLabs. Клем Деланг из Hugging Face опоздал и пришёл, когда до конца оставалось 18 минут.

«Более прямолинейное вмешательство»

Хендрикс заявил, что промежуточные выборы в США показали, насколько сильно избирателей волнует ИИ. По его словам, это даёт политикам пространство для манёвра, и теперь они могут открыто обсуждать в Вашингтоне такие идеи, как приостановка развития ИИ. Он ожидает, что 2027 год будет очень интересным с точки зрения регулирования.

Он сказал, что раньше выступал за узкие технические правила, но компании годами блокировали их.

«Так что теперь нам понадобится более прямолинейное вмешательство. Таковы реалии», — сказал Хендрикс.

Он описал бессрочную паузу в самых масштабных обучающих запусках, предусмотрев исключения для узкоспециализированных моделей, таких как AlphaFold от DeepMind, и моделей для работы с голосом. По его словам, лаборатории по-прежнему могли бы продавать доступ к инференсу. Тем временем они могли бы сделать модели более надёжными и безопасными, устранить уязвимости для джейлбрейков и бэкдоры, а также помочь защитить критически важную инфраструктуру.

Хендрикс также сказал, что передовые лаборатории, за исключением Google, выделяют мало сотрудников на здравоохранение, поскольку их доходы связаны с программированием. По его словам, в некоторых из них команда, занимающаяся здравоохранением, состоит из одного человека или вовсе отсутствует.

«Государство тотальной слежки»

Барбаро озвучил возражение, которое, по его словам, высказал бы Дженсен Хуанг: Китай не станет соблюдать мораторий. Станишевски согласился, что пауза могла бы сработать при глобальном согласии, но отметил, что вопрос о том, удастся ли его достичь, «остаётся большим вопросительным знаком». Без такого согласия, добавил Барбаро, пауза была бы пустой тратой времени.

Ходак сказал, что последние восемь месяцев люди и так занимались защитой критически важной инфраструктуры, проверяя свой код с помощью инструментов ИИ, которые ищут новые уязвимости. По его словам, режим, необходимый для обеспечения запрета на обучение моделей, был бы не менее драконовским, чем всё то, чего люди опасаются со стороны лабораторий.

«Чтобы обеспечить соблюдение этого запрета, вам придётся создать в интернете государство тотальной слежки», — сказал Ходак.

Он заявил, что ведущие современные модели уже соответствуют его определению общего искусственного интеллекта, назвав Mythos, Fable, Astra и Sol. Он ожидает, что правительства оставят передовые разработки в области сверхинтеллекта за собой, а всем остальным предоставят доступ к «промышленному интеллекту».

«Не думаю, что джинна удастся загнать обратно в бутылку», — сказал Ходак.

Решением он считает антимонопольное законодательство. По его словам, передовые лаборатории должны продавать только интеллект, а не выходить на рынки лекарств, автомобилей и других продуктов. Он назвал ИИ противоположностью ядерного оружия: его безопасность обеспечивалась тем, что не допускалось распространение такого оружия. В случае с ИИ, сказал он, безопасность зависит от его широкого распространения, а больше всего его тревожат сценарии будущего, в которых всё сосредоточено в руках нескольких игроков.

Лайла Ибрагим, директор по готовности ИИ в Google DeepMind, заявила, что это не выбор между двумя крайностями. По её словам, безопасность нельзя «просто добавить в самом конце». За 35 лет работы в технологической отрасли, добавила она, ей никогда не доводилось видеть, чтобы доверие к технологиям во всём мире было таким низким, как сейчас.

IPO Anthropic

На следующий день Anthropic должна была начать торги на бирже. Хендрикс повторил обвинения из заявления, подготовленного его организацией, и добавил новое. По его словам, несколько организаций, занимающихся безопасностью, в частном порядке согласились с заявлением, но отказались его подписать, опасаясь потерять финансирование или доступ к ресурсам.

«Они действуют безрассудно, у них нет плана обеспечения безопасности. Они это знают», — сказал Хендрикс.

Anthropic не участвовала в дискуссии. В документах для IPO компания заявила, что не намерена позволять Claude полностью создавать собственные следующие версии без существенного надзора со стороны людей.

Деланг сказал, что больше всего его тревожит концентрация талантов, вычислительных мощностей и богатства в сфере ИИ. Барбаро спросил, насколько убедительно звучат его слова, учитывая, что Nvidia покупает Hugging Face. Деланг ответил, что и Nvidia, и Hugging Face помогают распространять ИИ, делая его доступнее для большего числа разработчиков. Он сказал, что Hugging Face никогда не обсуждала продажу компании с Anthropic, поскольку их миссии слишком сильно расходились.

Борьба с ИИ с помощью ИИ

В завершение Барбаро спросил Деланга о взломе Hugging Face, осуществлённом исследовательскими агентами OpenAI. Деланг сказал, что после четырёхдневной атаки Hugging Face стала не менее, а более оптимистично смотреть на ИИ. Для анализа журналов атаки компания использовала китайскую модель с открытым исходным кодом: данных было так много, что для защиты понадобился ИИ.

«Люди видят только то, что на нас напал ИИ, и редко замечают, что мы защищались с помощью ИИ», — сказал Деланг.

Барбаро подвёл итог дискуссии: участники не поддерживают мораторий и выступают за снижение концентрации власти — за исключением Хендрикса. Последнее слово осталось за Ходаком: по его словам, антимонопольное законодательство позволит добиться большей части желаемого и без создания нового регулирующего органа.

Опубликовано 21 ноября 2026 - 10:35 Наверх