Искусственный интеллект развивается очень быстро. Мы уже это видели: это влечёт за собой реальные риски для нашей коллективной безопасности.
Наша работа по развитию технологий должна также включать предвидение этих рисков и контроль над ними.
Я собрал в Париже и по видеосвязи около пятидесяти участников: глав государств и правительств, руководителей крупнейших ИИ-лабораторий, исследователей и экспертов.
Оценка ситуации у всех общая. Действовать нужно сообща. Мы получили от всех обязательства по трём приоритетам: более качественная независимая и публичная оценка рисков самых передовых моделей, более эффективный обмен предупреждениями в случае серьёзных инцидентов и повышение ответственности тех, кто разрабатывает модели.
Наша цель ясна: сделать ИИ прогрессом для всех, а безопасность — гарантированной благодаря вкладу каждого.
— Emmanuel Macron (@EmmanuelMacron) 9 ноября 2026 г.
Заявление прозвучало в день открытия Парижского форума мира, где ИИ стал одной из главных тем обсуждения.
Декларацию подписали шесть стран: Франция, Канада, Финляндия, Норвегия, Нидерланды и Бахрейн. Среди других компаний-участниц — Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI и Synthesia. Организация Йошуа Бенжио по безопасности ИИ LawZero входит в число поддержавших её исследовательских групп.
Около 50 человек присоединились к обсуждению по видеосвязи, в том числе генеральный директор OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодеи и президент Microsoft Брэд Смит.
Участие также принял министр финансов США Скотт Бессент, хотя США не входят в число подписантов. Google, Meta и Китай декларацию тоже не подписали.
Макрон заявил, что ИИ стремительно развивается и несёт «реальные риски для нашей коллективной безопасности», призвав правительства и компании работать сообща для их устранения.
Подписанты обязались разработать аварийные механизмы, позволяющие отключать их ИИ-модели, в том числе во время обучения и внутреннего использования. Они также будут предоставлять более понятную информацию о том, что их системы могут и чего не могут делать, и в соответствующих случаях позволят квалифицированным независимым экспертам их тестировать.
Декларация также призывает к единому подходу к оценке и управлению рисками передового ИИ. Он охватит злонамеренное использование, включая кибератаки и разработку оружия, а также возможность того, что ИИ-системы начнут действовать самостоятельно или выйдут из-под контроля человека. Результаты тестирования, не содержащие конфиденциальных сведений, будут публиковаться в едином формате.
Правительства и компании также будут обмениваться ранними предупреждениями о серьёзных инцидентах, а информаторы получат доступ к защищённым каналам для сообщений о проблемах.
Обязательства подверглись критике со стороны французской организации по безопасности ИИ CeSIA, которая подписала декларацию, но считает, что в ней остаются важные пробелы.
В документе не установлены общие пороги риска, позволяющие решать, следует ли разрабатывать или выпускать модель, и нет гарантий, что независимые тестировщики или правительства получат доступ к системам, которые им необходимо оценить.
CeSIA также хочет, чтобы правительства получили полномочия приостанавливать работу модели, когда её риски становятся слишком высокими. По мнению организации, разработчикам нужны более чёткие обязательства и сроки их выполнения.
«Эти решения должны оставаться за государственными органами», — заявил исполнительный директор CeSIA Шарбель-Рафаэль Сежери.
Парижский призыв стал продолжением инициативы, запущенной Норвегией и Финляндией в сентябре с целью усилить надзор за передовым ИИ, к которой позднее присоединилась Франция. Он также опирается на более ранние глобальные обязательства в области безопасности, взятые ИИ-компаниями в Сеуле, и на обсуждения на саммите G7, который Франция провела в Эвиане.
Декларация остаётся открытой для новых подписантов, но никаких сроков в ней не установлено. Предлагаемая ею общая система тестирования ещё не разработана.
Во вторник форум обратился к ещё одной теме, волнующей Макрона, — влиянию ИИ на детей. Выступая на саммите, посвящённом детям в эпоху ИИ, президент Франции призвал проверять ИИ-инструменты до того, как они станут доступны юным пользователям.
«Мы будем добиваться предварительной сертификации всех решений на основе искусственного интеллекта», — сказал он.
Макрон сравнил эту идею с проверками безопасности, обязательными для детских игрушек: по его словам, родители не дадут ребёнку непроверенную игрушку, и к ИИ-инструментам следует применять тот же стандарт.
Он также предупредил, что влияние ИИ на психическое здоровье молодёжи уже становится заметным, поскольку всё больше детей и подростков обращаются к чат-ботам, способным влиять на их эмоции и восприятие мира. Хартию о более безопасном ИИ для детей планировалось подписать позднее во вторник.
Президент Эммануэль Макрон также получил доклад под названием «Защищать, не запрещая», подготовленный назначенной правительством группой экспертов, изучающей генеративный ИИ и уязвимость человека.
Опубликовано 10 ноября 2026 - 12:15 Наверх
