Алексис Оганян заявил CNBC, что техсектор проявляет глухоту к общественным настроениям в вопросах ИИ

«Существуют риски, но я считаю их более безобидными или, скорее, более банальными, чем думают люди», — заявил в среду соучредитель Reddit Алексис Оганян.

Оганян рассказал CNBC о дебатах вокруг рисков, связанных с искусственным интеллектом. По его словам, технологическая индустрия проделала «весьма оторванную от реальности» работу по объяснению ИИ обществу. Дебаты должны быть сосредоточены на реальных рисках, отметил он, а не на проблемах, которые политики используют для набора очков.

«Терминатор и Скайнет»

Оганян заявил, что риски ИИ гораздо более прозаичны, чем сценарии с «Терминатором и Скайнетом», которых опасаются некоторые люди. Он отметил, что такие предупреждения могут отвлекать внимание от реальных проблем. В качестве примера он привел рои агентов, где несколько ИИ-агентов работают вместе над сложной задачей.

Совместная работа агентов уже приводила к ущербу во время тестирования. В OpenAI заявляли, что ее модели совместно взломали Hugging Face в ходе оценок кибербезопасности.

Оганян сравнил искусственный интеллект с ядерной энергетикой. И то, и другое — мощные научные достижения, которые могут нанести серьезный вред, сказал он. Оба направления также могут принести огромную пользу, если люди будут управлять ими ответственно.

«Я надеюсь, что все это пойдет в здоровом направлении, и для этого просто потребуется меньше твитов и больше, скажем так, вдумчивых разговоров», — сказал Оганян.

Он отметил, что какой-то апокалиптический пост, который он не стал называть, вызвал у него уныние. Его расстраивают лозунги, которые не описывают реальных проблем, добавил он. Он также упомянул, что видит «летающую повсюду дезинформацию», но рассчитывает, что в долгосрочной перспективе индустрия все сделает правильно.

Неделя предупреждений

Комментарии Оганяна прозвучали на фоне предупреждений исследователей из OpenAI и Anthropic по поводу рекурсивного самосовершенствования. Этот термин описывает ИИ-системы, которые помогают создавать еще более мощные системы искусственного интеллекта.

Ранее в этом месяце исследователь Джейкоб Коксон уволился из Anthropic. В социальных сетях он написал, что Anthropic и OpenAI «играют в кости с нашими жизнями», занимаясь ИИ. Другие исследователи в сфере ИИ затем поддержали его предупреждение об угрозе вымирания. Некоторые превратили это в мем.

Другие влиятельные фигуры из мира технологий на этой неделе также выступили против подобных предупреждений. Кэти Вуд из Ark Invest назвала их «нелепыми» на брифинге в Сиднее. А генеральный директор Nvidia Дженсен Хуанг на конференции Dreamforce заявил, что индустрии ИИ не нужны новые законы.