Несколько недель назад Дженсен Хуанг заявлял, что лабораториям следует сбавить обороты, если ситуация выйдет из-под контроля. Теперь он оценивает риск в 0%.

Дженсен Хуанг заявил в эфире CBS News, что вероятность того, что ИИ погубит мир к 2030 году, составляет 0%, и что индустрия должна развиваться так быстро, насколько это возможно, не оглядываясь ни на кого. Несколькими неделями ранее он воздерживался от того, чтобы называть опасения по поводу ИИ мистификацией, охарактеризовал апокалиптические прогнозы как не имеющие научного обоснования и говорил, что компании должны приостановить или замедлить свою работу, если чувствуют потерю контроля над ней. Полная версия интервью выходит в эфир в воскресенье, поэтому изменение позиции оценивается по опубликованному отрывку.

Генеральный директор Nvidia отверг идею о том, что ИИ может покончить с миром к концу текущего десятилетия. В беседе с Джо Линг Кент на CBS News Хуанг заявил, что 2030 год не станет концом света, и оценил вероятность этого в ноль процентов.

Иэн Кинг сообщил об этих высказываниях для Bloomberg. Полная версия интервью выходит в воскресенье, поэтому пока в распоряжении имеется лишь отрывок.

Его предыдущий ответ был более сдержанным

Когда Трамп позвонил ему во время выступления на саммите All-In Summit, чтобы назвать страхи перед ИИ мистификацией, Хуанг не стал использовать это слово. Как сообщало тогда издание TNW, он назвал апокалиптические прогнозы не имеющими научного обоснования, что является утверждением скорее об имеющихся доказательствах, а не о вероятности.

Впрочем, в другом вопросе он зашел дальше. Он заявил, что компании должны приостановить или замедлить свою работу, если чувствуют, что их предприятие выходит из-под контроля.

Это близко к тому, к чему призывают сторонники замедления темпов. Новая же формулировка — двигаться как можно быстрее вне зависимости от остальных — является полной противоположностью.

Ноль — это весомое число

Сами лаборатории его не используют. Они публикуют концепции безопасности, пороги возможностей и оценки рисков, которые служат инструментами для работы в условиях неопределенности, а не выражениями абсолютной уверенности.

Никто из серьезных участников с противоположной стороны также не заявляет о стопроцентной уверенности. Аргумент в пользу замедления темпов — это прямо1 ставка на неизвестные вероятности, именно поэтому он предполагает наличие независимых оценщиков и предохранителей, а не полный запрет.

Поэтому круглый ноль — это не прогноз в той же системе координат, что и объект его критики. Это риторическая позиция, озвученная в телевизионном интервью, а не в научном труде.

Напряжение между двумя заявлениями

Хуанг также заявил, что индустрия никогда не станет выпускать продукты до того, как они будут готовы, или поставлять небезопасные товары. Если сопоставить это с движением на максимальной скорости без оглядки на остальных, все бремя доказательства ложится на один-единственный вопрос.

Готовность оценивается тем, кто выпускает продукт. Если темп задается независимо ни от кого, то единственным контролем релиза становится оценка самой компании-производителя — то есть именно та схема, для изменения которой и создавались предложения о замедлении.

В оба эти утверждения можно искренне верить. Но они не могут одновременно служить опорой для одной позиции.

Коммерческая позиция, высказанная напрямую

Nvidia продает вычислительные мощности, которые в случае замедления останутся нераспроданными. Из всех, кто ведет споры о темпах, именно у Хуанга самая прямая финансовая зависимость от ответа на этот вопрос.

Это контекст, а не опровержение. Заинтересованная сторона вполне может быть права, и этот стимул стоит обозначить, вместо того чтобы игнорировать его.

Однако это значит, что его уверенность имеет меньший доказательный вес, чем такая же уверенность человека, чьи интересы никак не затронуты. Он предлагает не данные, он предлагает цифру.

Другие высказывают ту же точку зрения без личной заинтересованности

Скептическая позиция свойственна не только тем, кто продает «железо». Эндрю Нын назвал предупреждения об уничтожении человечества научной фантастикой, при этом у него нет складов с чипами, которые нужно распродавать.

Это более сильная версия аргумента Хуанга. Конкретные краткосрочные сроки вымирания плохо подкреплены доказательствами, и заявить об этом — не то же самое, что утверждать, будто вероятность равна нулю.

Это различие имеет значение, поскольку жизнеспособнее оказывается более слабое утверждение. Ноль отлично подходит для цитирования в отличие от тезиса об «отсутствии научных оснований».

Те, кто утверждает обратное, не являются посторонними людьми

Предупреждения в этом месяце поступали изнутри самих лабораторий. Исследователь безопасности искусственного интеллекта из DeepMind ушел из компании и опубликовал свое предостережение, став одним из нескольких специалистов, пошедших на такой шаг.

Хуанг отмахивается от позиции людей, которые создают сами модели, а не ускорители для них. Их оценки можно оспаривать, но нельзя назвать их некомпетентными.

Политический вектор, которого он придерживается

Трамп весь месяц выступал с прямой критикой предупреждений о безопасности ИИ. Он неоднократно и подробно называл эти предупреждения мистификацией, а CBS анонсировала интервью с Хуангом на фоне его согласия с этой точкой зрения.

Сближение с администрацией президента имеет для Nvidia практическую ценность в данный момент. Хуанг публично выступал против предложений ввести санкции в отношении китайского ИИ, и его компании необходимо, чтобы санкционная политика развивалась в выгодном для нее направлении.

Кроме того, ожидается его присутствие на государственном ужине в честь Си Цзиньпина на следующей неделе. Генеральный директор, выступающий за скорость и против ограничений, найдет аудиторию для обоих аргументов под одной крышей.

Что стоит отслеживать

Посмотрите полную версию интервью в воскресенье. Отрывок — плохая основа для выводов об изменении позиции, и в не вошедшей в эфир части могут вернуться оговорки, которые он делал в августе.

Следите за тем, станет ли он повторять эту цифру. Тезис о «недостатке научных оснований» — это позиция, которую он может защищать, а вот 0% — это то, за что его попросят дать отчет.