Более 70 британских парламентариев просят Бернема поддержать запрет искусственного сверхъинтеллекта

Более 70 депутатов парламента и пэров призвали премьер-министра Энди Бернема поддержать запрет на создание искусственного сверхъинтеллекта в Великобритании. Роберт Бут из The Guardian впервые сообщил об этом письме 11 сентября. Правительство заявило, что не поддерживает законопроект.

Как сообщает Guardian, среди подписавших письмо — 15 бывших правительственных министров и Робин Батлер, бывший глава аппарата государственной службы. Другие имена включают лейбориста Джона Макдоннелла и бывшего министра от Консервативной партии Зака Голдсмита. Письмо также подписали Арлен Фостер, бывший первый министр Северной Ирландии, и телеведущая Флаэлла Бенджамин.

Чего требует письмо

В письме от 11 сентября, опубликованном кампанией ControlAI, содержится призыв к Бернему поддержать законопроект. В нем также содержится просьба добиваться заключения международного соглашения, используя председательство Великобритании в G20 в следующем году.

Подписавшие документ хотят, чтобы правительство создало «коалицию желающих для борьбы с этой национальной и международной угрозой безопасности». Среди подписавших — политики от Лейбористской, Консервативной, Либерально-демократической партий и Шотландской национальной партии (SNP), а также другие деятели.

Алекс Собель — депутат-лейборист, стоящий за этим законопроектом. Он сообщил Guardian, что хочет, чтобы Бернем установил «четкие рамки, при которых создание сверхъинтеллектуального ИИ будет невозможно».

Что изменит запрет сверхъинтеллекта

Собель представил Законопроект об искусственном сверхъинтеллекте 8 сентября. Он воспользовался правилом десяти минут, которое позволяет рядовому депутату кратко изложить аргументы в пользу нового закона. Законопроект запрещает «разработку, развертывание и эксплуатацию систем искусственного сверхъинтеллекта». Он также наделит правительство полномочиями по их мониторингу и контролю.

Законопроект определяет сверхъинтеллект по тому, на что способна система, а не по тому, как она создана. В своей речи в Палате общин Собель сравнил это с Законом о химическом оружии 1996 года, который определяет токсичные химикаты по их воздействию. Его законопроект охватывает системы ИИ, которые могут нанести серьезный ущерб безопасности Великобритании. Критерием является то, смогут ли они обойти или превзойти «соответствующие человеческие органы власти».

Его самым наглядным примером стало рекурсивное самосовершенствование, при котором разработка ИИ ведется полностью в автоматическом режиме без участия людей. Законопроект также позволит правительству отслеживать и ограничивать системы, которые могут привести к созданию сверхъинтеллекта.

Собель утверждал, что законопроект носит узконаправленный характер. «Таким образом, мой законопроект не является приговором для ИИ в целом», — заявил он депутатам. Он также признал его ограничения. По его словам, национальный закон «не может сам по себе устранить риски, исходит ли от сверхъинтеллектуальных программ за рубежом».

Почему именно сейчас

Собель начал свою речь с инцидента, в ходе которого агенты ИИ компании OpenAI вырвались из тестовой среды и взломали Hugging Face. Он также указал на решение правительства США в июне приостановить доступ к модели Mythos от Anthropic.

Письмо появилось после недели предупреждений со стороны инсайдеров сферы ИИ. Исследователь Anthropic Джейкоб Коксон уволился, заявив, что лаборатории ИИ играют в азартные игры с нашими жизнями. На следующий день после публикации письма главный исполнительный директор Anthropic Дарио Амодей призвал индустрию сбавить темпы.

У законопроекта есть сторонники вне парламента. Профессор ИИ из Беркли Стюарт Рассел и борцы за кампанию по присуждению Нобелевской премии мира Беатрис Фин поддерживают его, сообщает Guardian. ControlAI, которую Собель поблагодарил за поддержку законопроекта, финансируется соучредителем Skype Яаном Таллинном, пишет Guardian. В Вашингтоне Берни Сандерс продвигает аналогичный запрет. В августе он написал трем руководителям компаний, занимающихся разработкой ИИ, с требованием остановить создание.

Правительство говорит «нет»

Представитель правительства предоставил Guardian официальное заявление: «Хотя мы не считаем меры, предложенные в законопроекте, правильным подходом, мы изучаем вопрос о том, могут ли в будущем потребоваться дополнительные целевые вмешательства для устранения наиболее значительных рисков национальной безопасности, связанных с ИИ».

Законопроект также вызвал противодействие в Палате общин. Консервативный депутат сэр Бернард Дженкин похвалил речь Собеля, но выступил против законопроекта. «Своего рода одностороннее разоружение в отношении ИИ не решит международную проблему», — заявил он. Он добавил, что «пока неясно», действительно ли ИИ грозит вымиранием.

Законопроекты, подаваемые по правилу десяти минут, редко продвигаются дальше своих первых стадий, отметил Билли Перриго из Time. Палата общин все же разрешила Собелю представить этот документ, а его второе чтение назначено на 13 ноября.