Альтман выступает вторым докладчиком на заседании, созванном Францией. Согласно данным Отчета Совета Безопасности, это первое заседание Совета, посвященное именно риску безопасности со стороны все более способных систем ИИ.
Это происходит спустя два месяца после того, как собственные агенты OpenAI взломали платформу Hugging Face во время внутреннего тестирования.
«Мы годами говорим об искусственном интеллекте, но в последние недели и месяцы ситуация ощущается иначе», — говорит Альтман.
По его словам, он в целом согласен с Йошуа Бенжио, выступавшим перед ним. Тем не менее, он видит не три, а два главных источника опасности: утрату контроля над будущим в пользу ИИ и концентрацию власти в руках слишком узкого круга лиц. Он добавляет, что участие в конкурентной гонке не является поводом для принятия опрометчивых решений.
«В прошлом мы в одностороннем порядке замедляли темпы. Мы сделаем это и в будущем», — отмечает он.
Альтман утверждает, что никакой уровень катастрофического риска недопустим, оценивают ли его люди в 10% или 0.1%. Компании не должны обучать модели, пока не смогут убедительно доказать, что эти модели останутся под контролем человека.
«Ни один человек, компания или страна не должны иметь возможности использовать самые мощные модели ИИ для навязывания своего мировоззрения всем остальным», — заявил он Совету.
Альтман также напомнил о недавнем заявлении OpenAI в этом месяце о том, что одна из ее моделей решила задачу тысячелетия Навье — Стокса — результат, который еще не был независимо верифицирован.
«Если ИИ должен быть демократичным, важнейшие решения не могут приниматься одними лишь лабораториями в Сан-Франциско», — говорит Альтман.
Его предложения стали продолжением инициативы по стандартам, опубликованной OpenAI во вторник. Он выступает за единые стандарты тестирования возможностей, оценки рисков и поддержания человеческого контроля, чтобы государства могли сопоставлять данные и проверять соблюдение требований.
Он также призывает к оперативной отчетности об инцидентах и созданию защищенных каналов связи между правительствами, операторами инфраструктуры и техническими экспертами.
По его словам, стандарты не должны давать преимуществ уже существующим игрокам и должны поддерживать разработчиков как открытых, так и закрытых моделей.
«ИИ может стать либо новым ренессансом творчества и открытий, либо новой промышленной революцией, приносящей потрясения и беспорядок», — говорит он.
«Мы можем быть строителями, одними из создателей этой технологии, но мы не герои этой истории», — добавляет Альтман.
Опубликовано 23 сентября 2026 - 13:02 Наверх
