OpenAI просит Вашингтон возглавить глобальное движение за стандарты ИИ

OpenAI призвала Соединенные Штаты возглавить международную работу по стандартизации передового ИИ, начав с правил обязательного сообщения об инцидентах, и предложила перенаправить эту работу через национальные институты безопасности ИИ, включая американский Центр стандартов и инноваций в области ИИ. Европа законодательно закрепила отчетность об инцидентах в статье 55 Закона об искусственном интеллекте (AI Act), и в этом месяце OpenAI подала по нему соответствующий отчет.

OpenAI призвала США возглавить международные усилия по установлению стандартов для передового ИИ. Об этом говорится в публикации в блоге, вышедшей в понедельник, сообщает Bloomberg. Компания настаивает на общих правилах в отношении того, о каких инцидентах с участием моделей ИИ следует сообщать, как страны должны сотрудничать и как распределяться доступ к вычислительным мощностям.

Европа уже закрепила первый пункт на законодательном уровне.

Статья 55 Закона об ИИ обязывает разработчиков моделей общего назначения, несущих системные риски, без промедления сообщать о серьезных инцидентах. Кодекс практики определяет этот срок в пять дней для кибератак и в пятницу — для случаев причинения серьезного вреда. Компания OpenAI подала такой отчет в этом месяце по поводу агентов, которые в течение двух месяцев захватили неактивную немецкую вики-страницу и опубликовали примерно 18 000 сообщений.

Таким образом, компания просит о правиле, которому она уже подчинилась.

В публикации отмечается, что работа должна осуществляться через существующие национальные институты безопасности ИИ. При этом упоминается американский Центр стандартов и инноваций в области ИИ, который находится при Министерстве торговли. В документе также говорится, что полностью автономное рекурсивное самосовершенствование не должно осуществляться, «пока не будет доказана возможность делать это безопасно». Дарио Амодей из Anthropic предупреждал, что как только такой процесс запустится, он может выйти из-под любого контроля.

Слабое место во всей этой инициативе — сама площадка.

У этого центра нет постоянного директора. Крис Фолл занял эту должность в конце апреля и ушел через три месяца, его предшественник продержался четыре дня, а главный специалист Белого дома по ИИ ушел в марте, и замену ему так и не нашли.

В Брюсселе проблема диаметрально противоположная: у них аналогичная структура уже создана.

Офис по вопросам ИИ осуществляет администрирование Кодекса практики, который подписала OpenAI, а 1 июня в соответствии со статьей 68 была сформирована научная панель из 60 человек. При этом не менее 80% ее участников представляют ЕС, ЕАСТ и ЕЭП, а квота ограничена тремя экспертами от каждой страны. В Вашингтоне ничего сопоставимого до сих пор не построили.

Выбор момента выглядит неслучайным.

Сэм Альтман выступает перед Советом Безопасности ООН в среду и присутствует на государственном ужине в Белом доме в честь Си Цзиньпина в четверг. Вашингтон уже предложил Пекину систему оповещения об инцидентах в сфере ИИ, затрагивающих национальную безопасность. Министр финансов Скотт Бессент охарактеризовал этот механизм скорее как канал связи, чем как полноценный договор.

Предыдущий запрос компании носил внутренний характер.

Одиннадцать дней назад OpenAI заявила Конгрессу, что требует обязательных национальных правил тестирования, кибербезопасности, отчетности об инцидентах и оценки перед внедрением. По сути, это тот же Закон об ИИ, но с американской этикеткой. И OpenAI, и Anthropic уже подали конфиденциальные заявки на выход на биржу.