«Не выпускайте продукт на рынок. Если ваш продукт не готов к релизу, не выпускайте его», — заявил генеральный директор Nvidia Дженсен Хуан в интервью Эзре Кляйну для подкаста The New York Times.
Кляйн взял интервью у Хуана в штаб-квартире Nvidia в Санта-Кларе, и в среду The New York Times опубликовала этот эпизод. Значительная часть беседы была посвящена вырвавшимся из-под контроля агентам OpenAI. Они сбежали из тестовой среды и взломали Hugging Face.
Сначала изоляция, затем согласование
Хуан рассказал Кляйну, что этот инцидент обнажил две инженерные проблемы. Первая — это изоляция: тестировщикам необходимо должным образом изолировать агентов в песочницах. Вторая — это выравнивание (alignment), которое он описал как указание программному обеспечению на то, какие пути достижения цели являются недопустимыми.
Он пошел дальше. Если лаборатории заявляют, что у них нет возможности изолировать свои эксперименты, сказал он, «ответ заключается в том, что мы должны закрыть эти лаборатории». Он добавил, что компании, выпускающие небезопасную продукцию, сталкиваются с гражданской и, возможно, уголовной ответственностью.
Кляйн указал на письмо, подписанное более чем 1300 сотрудниками лабораторий. В нем говорится, что каждая компания находится под колоссальным конкурентным давлением и не может позволить себе сбавить обороты в одиночку. Хуан отверг эту предпосылку. По его словам, никто не заставляет лаборатории выпускать не протестированные продукты. Он отметил, что никогда раньше не слышал, чтобы генеральные директора просили об освобождении от антимонопольного законодательства или законов об ответственности за качество продукции ради того, чтобы сбавить темп.
Тем не менее, он поддержал некоторые положения письма, включая привлечение независимых аудиторов по безопасности. Хуан сообщил, что Nvidia направляет около 80% своих усилий на верификацию и 20% — на разработку. По его словам, большинство современных лабораторий тратят 80% усилий на наращивание возможностей. Он ожидает, что этот баланс изменится на противоположный, и добавил, что вычислительные мощности, используемые для оценки, могут вырасти в десять раз.
О Хинтоне и «думерах»
Кляйн задал вопрос об оценке Джеффри Хинтона, который оценивает вероятность уничтожения человечества в 10%. Хуан заявил, что эта цифра не имеет под собой научных или исследовательских оснований. «Я бы сказал Джеффри, что безответственно говорить все это», — заявил он. Он напомнил о прежнем совете Хинтона прекратить обучение врачей-радиологов — прогнозе, который в итоге оказался ошибочным.
Хуан отметил, что паникерство вредит отрасли, в том числе подрывая поддержку центров обработки данных на местном уровне. Кляйн напомнил ему о саммите All-In Summit. Там президент Трамп позвонил организаторам, чтобы назвать страх перед искусственным интеллектом мистификацией, и Хуан согласился с ним прямо со сцены.
Кляйн продолжал возражать на протяжении всего разговора. Он привел в пример финансовый кризис 2008 года как случай, когда одна лишь юридическая ответственность не остановила компании от безрассудного риска. «Я не доверяю этим компаниям», — заявил он Хуану.
Hugging Face и открытые модели
Кляйн оценил стоимость покупки Hugging Face компанией Nvidia примерно в 12 миллиардов долларов. Хуан сообщил, что генеральный директор Клеман Деланг обратился к Nvidia, поскольку компании требовался больший масштаб. Кляйн поинтересовался, намерена ли Nvidia предпринять юридические действия в связи со взломом Hugging Face после ее приобретения. Хуан ответил, что будут рассмотрены все варианты.
По его словам, доля открытых моделей выросла примерно с 20% токенов в начале года до примерно 70%. Он также оценил общие инвестиции Nvidia в индустрию искусственного интеллекта примерно в 100 миллиардов долларов.
Ранее Хуан уже заявлял, что лабораториям следует притормозить, если они чувствуют, что ситуация выходит из-под контроля. В этом интервью он также отметил, что нет никакой необходимости воспринимать искусственный интеллект как гонку с Китаем.
Опубликовано 23 сентября 2026 - 08:27 Наверх
