Король Чарльз призвал руководителей сферы ИИ держать технологии под контролем человека

«Те в нашем мире, кто глубоко ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой ищут ваших уверений в том, что мы не потеряем контроль над своей судьбой или нашими душами», — заявил король Карл III лидерам индустрии искусственного интеллекта 17 сентября.

Как говорится в заявлении Королевской семьи, монарх выступил на саммите, который он созвал в Дамфрис-Хаусе в Восточном Эйршире (Шотландия). Был опубликован полный текст его речи. Во встрече приняли участие представители Nvidia, Google DeepMind, OpenAI и Anthropic, а организационную поддержку переговорам оказал фонд Дитчли.

Согласно заявлению, делегаты обсудили вопрос о том, могут ли общие принципы лечь в основу будущего использования ИИ. В мероприятии приняли участие около 30 руководителей высшего звена, политиков и исследователей, сообщает Bloomberg. Топ-менеджеры не взяли на себя публичных обязательств по каким-либо изменениям.

«Достаточные средства контроля»

Король отметил, что развитие искусственного интеллекта, его суть и темпы «в равной степени интригуют и вызывают глубокую тревогу».

По его словам, ИИ уже демонстрирует «огромную способность улучшать и спасать жизни», например, в сфере наук о жизни и медицины. Тем не менее, создатели этих технологий «все чаще предупреждают» о риске «развития более мрачных способностей» и «возможно, даже лишения жизни».

Король заявил о «неотложной необходимости должным образом оценить экзистенциальные угрозы в случае попадания таких технологий не в те руки». Он задался вопросом: «Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?»

Он обратился к собравшимся с двумя вопросами, развивая мысль своего послания британскому Саммиту по безопасности ИИ в Блетчли-парке в 2023 году. Первый касался того, как использовать преимущества ИИ, «ставидя безопасность во главу угла». Второй — как выстроить международное сотрудничество и консенсус, «чтобы ни одна нация не осталась позади», а «человеческий род сохранился на своем месте».

«Стоящая перед вами задача заключается не просто в продвижении технологий, а в том, чтобы они неукоснительно служили человечеству, обществу и природе, — сказал он. — Наша человечность должна оставаться священной».

Кто присутствовал на встрече

Среди участников были генеральный директор Nvidia Дженсен Хуанг, сооснователь Google DeepMind Демис Хассабис и финансовый директор OpenAI Сара Фриар. Мероприятие также посетили главный специалист по глобальным вопросам Anthropic Тино Куэльяр и министр Великобритании по делам ИИ Канишка Нараян. Издание TNW сообщало об этих планах 8 сентября.

Король также провел личные встречи с Хуангом, Хассабисом, Куэльяром, Фриар и пятью другими гостями. В распоряжении Bloomberg оказался список участников. В эту группу вошли советник Ватикана по вопросам ИИ Паоло Бенанти, специалист по компьютерным наукам из Беркли Стюарт Рассел и секретарь Кабинета министров Антония Ромео.

В списке гостей по версии Bloomberg также фигурировали глава МИ-6 Блайз Метревели, писатель Юваль Ной Харари и Сюэ Лань из Университета Цинхуа в Пекине.

Что заявили руководители компаний

Как сообщает BBC, Хассабис заявил на саммите, что общий искусственный интеллект (AGI), «вероятно, появится всего через несколько коротких лет». По его оценкам, потенциальное влияние этой технологии будет в десять раз превосходить эффект Промышленной революции. Он также назвал вероятность негативного сценария «определенно ненулевой».

«Будущее еще не написано», — сказал делегатам Хассабис. Днем ранее он объявил о создании Института DeepMind для обсуждения проблем AGI. 15 сентября бывший исследователь безопасности DeepMind опубликовал предупреждение об опасности ИИ.

Фриар отметила, что растущие возможности ИИ поднимают вопросы безопасности и того, «как гарантировать, что он всегда служит людям». «Ни одна компания или правительство не смогут справиться с этим в одиночку», — приводит ее слова BBC. 16 сентября компания OpenAI сообщила о шести инцидентах, связанных с поведением моделей.

«Если продукт недостаточно безопасен, мы должны придержать его и продолжить доработку», — заявил Хуанг. Ранее он призывал журналистов регулировать продукты на базе ИИ, а не саму технологию. Кроме того, по данным BBC, он высказался в поддержку открытых моделей, отмечив, что они позволяют «исследователям, университетам, стартапам и целым странам» создавать собственные решения на их основе.