Google DeepMind запускает Институт DeepMind для обсуждения ОИИ

«Это критический момент, чтобы гарантировать безопасное создание ОИИ, а его польза для общества значительно перевешивала любые риски», — написали три директора нового Института DeepMind.

Компания Google DeepMind запустила Институт DeepMind (DeepMind Institute, DMI) — платформу для исследований и дискуссий об общем искусственном интеллекте, сообщается в ее программной статье.

Его директорами стали Шейн Легг (Shane Legg), соучредитель и главный научный сотрудник по ОИИ в Google DeepMind, и Демис Хассабис (Demis Hassabis), соучредитель и председатель лаборатории. Хассабис также является главным научным сотрудником Alphabet. Третьим директором стал Джеймс МаньИка (James Manyika), президент Google по исследованиям, лабораториям, технологиям и обществу.

Легг также занимает должность шеф-редактора. В институте заявляют, что публикуемые материалы отражают идеи их авторов и «не должны рассматриваться как официальная позиция Google».

Что заявляет институт

В программной статье ОИИ определяется как система, обладающая всеми когнитивными возможностями человеческого мозга. В ней отмечается, что современные системы все еще терпят неудачу при выполнении некоторых базовых задач, но «мы ожидаем, что эти пробелы скоро будут устранены».

В качестве текущих опасений называются кибербезопасность и биориски, а также «потенциал потери контроля в будущих самосовершенствующихся системах». В августе один из руководителей DeepMind связал расходы на ИИ с машинами, которые совершенствуют сами себя.

На платформе будут публиковаться исследователи из Google DeepMind, Google и более широкого научного сообщества. В статье отмечается, что они «не всегда будут согласны друг с другом».

«Стоит рассмотреть»

Легг сообщил изданию Financial Times, что возможности ИИ не должны опережать меры контроля безопасности. Он назвал призыв генерального директора Anthropic Дарио Амодеи замедлить, но не приостанавливать выпуск передовых моделей, «интересным с точки зрения направления» и «заслуживающим рассмотрения».

Амодеи заявил 12 сентября, что индустрия должна сбавить темпы.

Легг также заявил FT, что пока преждевременно заявлять о достижении ОИИ. Дженсен Хуанг из Nvidia заявил, что ОИИ уже прибыл 7 сентября.

OpenAI сделала собственное заявление об ОИИ 4 сентября. Легг сохраняет уверенность в своем прогнозе о 50% вероятности появления «минимального» ОИИ к 2028 году, сообщает FT.

Билал Чугтай (Bilal Chughtai), покинувший команду DeepMind по безопасности ОИИ в июле, опубликовал предупреждение на этой неделе.

Первые статьи

Помимо вступительного материала, на сайте представлены четыре работы:

• «Аргументы в пользу прозрачности рассуждений» (Рохин Шах и Анка Драган)
• «Экономическая политика для ОИИ» (Джулиан Джейкобс и Алекс Имас)
• «Принципы нового утопизма» (Стивен Кейв)
• «Концепция передового ИИ и рассвет новой эры» (Хассабис)

Одинадцать мер политики для экономики ОИИ

Джейкобс, экономист и научный сотрудник Google DeepMind, и Имас, директор по экономике ОИИ, оценили 11 мер политики в своей статье. Они использовали обзоры литературы, опросы и 51 ИИ-агента, созданных на основе данных опросов 51 реального экономиста.

Авторы пишут, что «ни одна отдельная инициатива не является решением всех проблем». Они сопоставляют три наиболее надежные («с наименьшим риском») реакции с тремя сценариями:

• Слабые потрясения: расширение страхования по безработице, увеличение налогового кредита на заработный доход (EITC) и переквалификация под руководством работодателей
• Умеренное вытеснение: превращение налогового кредита в отрицательный подоходный налог
• Разделение труда и капитала: универсальная базовая опора капитала, используемая в случае, если доля труда в ВВП падает в течение длительного периода

Они называют безусловный базовый доход «дорогим и грубым инструментом, который может не обеспечить достаточную поддержку там, где она нужнее всего».

В ходе их опроса 85% американцев поддержали переквалификацию за государственный счет, а 72% — страхование по безработице. Поддержка универсального базового капитала составила 54%.

Универсальный базовый капитал набрал наибольшее количество баллов среди 11 направлений политики по показателю агентности — 76,3 из 100. По показателю осуществимости он набрал 33,1 балла, заняв второе место с конца после федеральной гарантии занятости.