«Нам не нужны никакие новые законы»: Дженсен Хуан расходится во мнениях с Амодеи на конференции Dreamforce

«Нам не нужны никакие новые законы. Нам не нужно новое регулирование», — заявил во вторник генеральный директор Nvidia Дженсен Хуан на главной сцене конференции Dreamforce компании Salesforce в Сан-Франциско.

Ранее в рамках того же выступления генеральный директор Anthropic Дарио Амодеи высказался за то, чтобы индустрия снизила темпы, изложив свою позицию в статье, опубликованной в минувшие выходные. Генеральный директор Salesforce Марк Бениофф взял интервью у обоих руководителей. Salesforce < опубликовала полную запись выступления > на YouTube.

Бениофф сообщил аудитории, что в зале присутствовало 10 000 человек, а еще 10 миллионов следили за трансляцией онлайн.

Амодеи: «давайте посмотрим на наши собственные достижения»

Бениофф спросил Амодеи о его взгляде на «состояние индустрии ИИ и темпы ее развития». Амодеи ответил с помощью аналогии с автомобильной промышленностью. Если у другого автопроизводителя происходит инцидент, связанный с безопасностью (например, с тормозами), в то время как ваша компания уверена в безупречности своих систем безопасности, как следует поступить?

«Очевидно, очень заманчиво наброситься на конкурента и сказать: эти ребята небезопасны, а мы безопасны. Но я думаю, что более ответственный способ отреагировать на это — сказать: послушайте, во-первых, давайте посмотрим на наши собственные результаты. У нас, возможно, не было столь громкого инцидента, но я уверен, что мы не идеальны».

Следующими шагами, по его словам, являются подтверждение приверженности принципам прозрачности и увеличение инвестиций в безопасность. Затем индустрия должна выработать единые для всех стандарты, и, наконец, в этот процесс должна быть вовлечена международная составляющая.

Таков трехэтапный план, описанный в его статье. Компания Anthropic уже привержена первому шагу, отметил Амодеи. Что касается остальных, то по ним предстоит «диалог с остальной частью индустрии».

«Я думаю, это путь к тому, чтобы вести индустрию вперед, подавать пример и показывать, что каждый всегда может стать лучше», — сказал он.

Отвечая на вопрос о том, что стало для него самым большим сюрпризом, Амодеи ответил: «Это темпы прогресса — не только технологий, но и их экономической составляющей». По его словам, в Anthropic предсказывали уровень возможностей будущих моделей, но не ожидали столь стремительного роста создающих их компаний.

Даже если бы развитие технологий было полностью заморожено, люди использовали бы лишь около 5% или 10% от их потенциальной ценности, считает Амодеи. Он добавил, что его план ничего не замораживает: «Замедление темпов развития передовых систем (Pacing the Frontier) вовсе не означает остановку».

Хуан: «Бегите так быстро, как только можете»

Хуан ходил по сцене вместе с Бениоффом во время беседы. «Мы переживаем новую промышленную революцию», — заявил он.

Затем Бениофф задал ему вопрос о «невероятных дебатах последнего дня, касающихся темпов развития и безопасности».

«Ну, безопасность превыше всего. Во многих отношениях это задача номер один. Однако безопасность — это инженерная проблема. В конце концов, мы разрабатываем программное обеспечение. В конце концов, мы разрабатываем вычислительные системы».

По словам Хуана, компаниям сначала нужны безопасные тестовые среды для этих систем, а затем они должны тестировать свои продукты. «Если вы создаете продукт или сервис и не уверены в его функциональности, возможностях или безопасности, просто не выпускайте его», — сказал он.

«Вы сдерживаете себя до тех пор, пока не будете уверены, что выпускаете нечто, что будет по достоинству оценщено рынком. Рыночные механизмы уже работают», — добавил он, прежде чем повторить, что индустрии не нужны новые законы.

Инновации, скорость и безопасные продукты не противоречат друг другу, считает Хуан. «Это ложный выбор. Вы абсолютно точно можете получить и то, и другое одновременно».

«Поэтому бегите так быстро, как только можете, но если в какой-то момент вы почувствуете, что компания теряет контроль или продукт небезопасен, сделайте паузу и убедитесь, что все сделали правильно».

Он также отверг идею о том, что ИИ уничтожит рабочие места. «Это тоже полнейшая чушь», — заявил он. По его словам, каждая компания, каждое предприятие и каждая страна в будущем станут ИИ-компаниями.

Хуан об антимонопольных исключениях: «абсолютно излишне»

Позже во вторник Хуан развил свою мысль в интервью Джиму Крамеру в программе Mad Money на телеканале CNBC. Он отверг мнение о том, что лабораториям ИИ нужны новые законы, включая антимонопольные исключения, для координации работы в сфере безопасности. Он назвал это «абсолютно излишним».

В своей статье Амодеи писал, что некоторые формы координации темпов развития сопряжены с юридическими трудностями и потребуют поддержки со стороны государства. Как отмечает CNBC, антимонопольное законодательство США в целом запрещает конкурентам договариваться об ограничении соперничества.

«У нас предостаточно законов», — заявил Хуан Крамеру. Он также отверг предупреждения о том, что ИИ угрожает выживанию человечества. «Мы не умрем в 2030 году», — сказал он. В компании Anthropic не ответили на запрос CNBC о комментариях.

Бениофф: «Мы не хотим, чтобы это произошло в сфере ИИ»

Выступая перед репортерами вне главной сцены, Бениофф заявил, что лаборатории должны замедлять или ускорять темпы по своему усмотрению, но при этом нести ответственность за результат, сообщает CNBC.

В ходе сессии вопросов и ответов между выступлениями он отметил, что компании должны соблюдать существующие законы. Сравнивая ИИ с социальными сетями, он подчеркнул, что «мы должны привлекать компании и руководителей технологических предприятий к ответственности за создаваемые ими технологии», передает Politico.

Он провел ту же аналогию в программе Mad Money. «Многие компании пострадали, множество людей пострадали из-за социальных сетей, — заявил он Крамеру. — Мы не хотим, чтобы это произошло в сфере ИИ».

Неделя политики безопасности ИИ

Днем ранее президент США Дональд Трамп позвонил Хуану прямо во время его выступления на саммите All-In в Лос-Анджелесе. Во время этого звонка Трамп назвал опасения по поводу искусственного интеллекта мистификацией.

На прошлой неделе Сэм Альтман из OpenAI и Илон Маск поддержали призыв Амодеи. Во вторник компания OpenAI поддержала двухпартийный план Палаты представителей, предусматривающий независимую оценку безопасности, а Маск призвал ведущие лаборатории и китайские компании тестировать модели друг друга, сообщает Politico.

В понедельник соучредитель Anthropic Джек Кларк заявил в интервью BBC, что оставлять искусственный интеллект в статусе «совершенно нерегулируемой индустрии» — это все равно что играть в кости с огромными рисками.

Salesforce тесно сотрудничает как с Nvidia, так и с Anthropic. В августе компания запустила проект Claudeforce совместно с Anthropic. На той же конференции был представлен Koa — рассуждающая модель для CRM, построенная на базе платформы Nemotron от Nvidia.