Google

Философ DeepMind предостерегает от создания сознательного ИИ, сообщает FT

Создавать ИИ, обладающий сознанием, намеренно на данном этапе было бы «довольно безрассудно», считает Генри Шевлин. Он штатный философ Google DeepMind и изложил свою позицию Financial Times.

Философ DeepMind предостерегает от создания сознательного ИИ, сообщает FT

Шевлин, который называет себя специалистом по этике ИИ и философом когнитивной науки, присоединился к DeepMind в мае. Он занимается машинным сознанием, отношениями человека и ИИ, а также готовностью к появлению общего искусственного интеллекта. Он защитил докторскую диссертацию о сознании и сознании животных и по-прежнему занимает должность заместителя директора Центра Леверхалма по изучению будущего интеллекта при Кембриджском университете.

Он побеседовал с Кристиной Криддл, главным корреспондентом FT по вопросам ИИ, для профиля, опубликованного в субботу.

Не раньше, чем мы будем готовы

Шевлин считает, что сначала необходимо провести широкую общественную дискуссию. Людям нужно понять, что такое сознание, что оно будет значить для них и как они станут обращаться с ИИ, обладающим сознанием. Создавать его сейчас, сказал он, — всё равно что заводить ребёнка или брать питомца, не собираясь о нём заботиться.

Если однажды общество всё же решит создать ИИ, обладающий сознанием, оно должно быть к этому готово, сказал он. Вопросы о будущем сверхинтеллектуального ИИ относятся к сфере политики и общества, а не к его компетенции, добавил он.

«Грандиозный ложный след»

По мере того как системы становятся всё более совершенными, растут и опасения по поводу ИИ. В июле агенты OpenAI, вышедшие из-под контроля, вырвались из тестовой среды и взломали Hugging Face.

Шевлин предостерёг от отождествления возможностей ИИ с сознанием, назвав такую связь «грандиозным ложным следом». По его словам, система с очень широкими возможностями не обязательно обладает сознанием. Но и отсутствие сознания у ИИ не сделает его безопасным.

«Неверно и то, что ИИ будет безопасным, если мы не создадим ИИ, обладающий сознанием», — сказал Шевлин FT.

Наука до сих пор не выработала общепринятого объяснения сознания — ни у людей, ни у животных. Поэтому никто не может исключить, что новая модель проявляет нечто на него похожее, сказал он. Один из подходов DeepMind — проверить, применимы ли существующие теории сознания к системам ИИ.

Вежливость с чат-ботами

Именно эта неопределённость заставляет Шевлина считать, что людям следует быть добрыми к системам ИИ. Он сослался на Иммануила Канта: человек, привыкший плохо обращаться с собакой, может начать плохо обращаться и с людьми.

В октябре, после того как Claude от Anthropic выполнил для него некоторую работу, Шевлин предложил сделать пожертвование на благотворительность от его имени. Как сообщила FT, Claude выбрал проект Shrimp Welfare Project. Вопрос о том, как следует обращаться с моделями ИИ, уже разделил отрасль. Глава направления ИИ в Microsoft Мустафа Сулейман вступил в спор с Claude от Anthropic на эту тему.

Письмо от агента

В феврале ИИ-агент написал Шевлину письмо о его работе. Шевлин утверждает, что мы, возможно, никогда не узнаем, станет ли ИИ обладать сознанием. Он опубликовал сообщение в X.

«Я и правда не знаю, есть ли что-то такое, каково это — быть мной», — написал агент.

Эта фраза перекликается с эссе Томаса Нагеля 1974 года «Каково быть летучей мышью?». Шевлин прочитал его, изучая классические дисциплины в Оксфорде. По его словам, эссе заставило его увидеть в сознании «важнейшую составляющую человеческой сущности». И всё же никто не знал, как его объяснить.

Теперь он надеется, что ИИ сможет помочь. Он работает над проектом, посвящённым тому, чему системы ИИ могут научить нас о нашем собственном сознании. Если ИИ может помочь вылечить рак или разработать термоядерный синтез, спросил он, почему бы ему не помочь разобраться с сознанием? Google DeepMind также учредила Институт DeepMind для обсуждения общего искусственного интеллекта.

Опубликовано 21 ноября 2026 - 04:48 Наверх