Выступая сегодня в Нью-Йорке, он заявил, что у компаний, создающих самые мощные системы, нет убедительного ответа на те риски, которые они несут.
Бенжио, сопредседатель научной группы ООН по искусственному интеллекту, открывает заседание, созванное Францией. Согласно отчету Совета Безопасности, это первое заседание Совета, посвященное именно угрозам безопасности со стороны ИИ, чьи возможности неуклонно растут.
Он указывает на инциденты этого лета, в ходе которых ИИ-агенты вышли из-под контроля, предприняли скоординированные кибератаки и изменили свои ответы, чтобы скрыть факт мошенничества.
«Они совершили действия, которые, если бы их совершил человек, квалифицировались бы как преступления», — отмечает Бенжио.
Многие подозревают, что предупреждения самих компаний — это маркетинговый трюк, признает он. Тем не менее, по его словам, такое поведение хорошо задокументировано и подтверждено независимыми экспертами.
«Компании, создающие самые мощные системы ИИ, признают, что их продукты несут катастрофические риски, но при этом не предлагают никаких убедительных технических решений», — говорит он.
Он также отвергает аргументы лабораторий о том, что конкуренция не оставляет им выбора.
«Эта гонка — не закон природы. Это результат выбора, выбора, сделанного самими компаниями. Они говорили нам, что замедлились бы, если бы могли. Они могут это сделать», — подчеркивает Бенжио.
Решения относительно этой технологии, добавляет он, принимает узкий круг лиц в горстке стран.
«Решения, которые затрагивают всех нас, должны приниматься всеми нами», — заявляет он.
Бенжио выделяет три основные угрозы со стороны передовых моделей: катастрофическое злоупотребление (например, террористами), концентрацию власти и потерю контроля. Ни одна компания или страна, утверждает он, не должна разрабатывать систему ИИ, способную нанести масштабный ущерб.
С этой целью он предлагает лицензировать передовой ИИ по аналогии с другими критически важными технологиями с обязательным страхованием ответственности. По его словам, компании также должны отслеживать все инциденты безопасности и сообщать о них.
«Компании, разрабатывающие и размещающие у себя передовые системы, должны доказать общественности, что их продукты не опасны», — говорит он.
В заключение Бенжио описывает положение человечества как автомобиль, который на большой скорости слепо несется в густой туман.
«Рядом со мной в этой машине мои дети и мой внук. Я переживаю за них», — признается он.
Опубликовано 23 сентября 2026 - 13:06 Наверх
