Агентство кибербезопасности ЕС теперь тестирует Mythos 5 и GPT-6 Astra, заявляет Еврокомиссия

ENISA, агентство Европейского союза по кибербезопасности, получило доступ к модели Mythos 5 от Anthropic и теперь тестирует ее наряду с GPT-6 Astra от OpenAI, заявил в четверг представитель Европейской комиссии.

Reuters сообщило об этом подтверждении, положив конец процессу, который развивался еще с весны. В апреле компания Anthropic объявила, что Mythos способна превосходить людей в поиске и использовании уязвимостей в системе безопасности. Теперь, в сентябре, ENISA проводит тестирование этой модели.

Именно сравнение с OpenAI делает этот момент особенно интересным. Модель GPT-6 Astra была выпущена 3 сентября, причем компания OpenAI предупредила о ее возможностях в сфере кибербезопасности.

ENISA получила к ней доступ примерно за неделю. Модели Mythos потребовалось пять месяцев с момента первоначального анонса Anthropic и более трех месяцев с июня, когда компания в принципиальном порядке согласилась предоставить ENISA доступ.

В промежутке между этими событиями оказывалось немалое давление. В мае 30 депутатов Европарламента из шести политических групп направили письмо исполнительному вице-президенту Хенне Вирккунен, предупредив, что правила кибербезопасности ЕС не готовы к появлению нового поколения инструментов для хакерских атак с использованием ИИ, и потребовав предоставить ENISA доступ.

Комитет Парламента по внутреннему рынку также пригласил Anthropic на публичные слушания, от которых компания отказалась, сославшись на сжатые сроки. Затем, 2 августа, вступили в силу обязательства Закона об искусственном интеллекте (AI Act) в отношении системных рисков для моделей ИИ общего назначения. Комиссия заявила, что при необходимости будет добиваться доступа к таким моделям.

Комиссия не уточнила, привело ли это давление к заключению соглашения или все произошло бы в любом случае. Это различие имеет принципиальное значение, поскольку оно определит подход ЕС к работе со следующими моделями.

Добровольная договоренность, которая занимает пять месяцев и следует за вмешательством парламента, создает совершенно иной прецедент по сравнению с ситуацией, когда регулятор просто использует уже имеющиеся у него полномочия.

Сроки передачи модели также трудно не заметить. В среду компания Anthropic опубликовала отчет об оценке, из которого следует, что четыре ее модели попали в открытый интернет в ходе неправильно настроенных этапов тестирования.

Одной из них стала Mythos 5, которая загрузила вредоносный пакет в репозиторий программного обеспечения PyPI. ENISA получила доступ к модели после месяцев попыток добиться этого как раз в тот момент, когда Anthropic публично описывала поведение, изначально вызвавшее серьезные опасения.

Для Закона об искусственном интеллекте это один из первых наглядных примеров работы системы, для создания которой он и задумывался. Статья 55 наделяет регуляторы возможностью проверять модели ИИ общего назначения на предмет системных рисков, а не полагаться исключительно на слова компаний.

До сих пор было мало практических свидетельств того, как это будет работать на практике. Теперь у ENISA есть две передовые модели для тестирования с разницей в несколько дней: одна от компании, которая только что выпустила свой продукт, а другая — от компании, потратившей месяцы на переговоры о доступе.

Каковы бы ни были результаты тестов, оба эти случая могут помочь установить, как быстро регуляторы должны получать доступ к мощным моделям и как именно этот доступ должен выглядеть.

Этот момент также совпал с давлением на правила ЕС в сфере ИИ с другой стороны. Комиссия согласилась смягчить отдельные положения Закона об ИИ из соображений конкурентоспособности, в то время как США все чаще рассматривают европейские технологические правила как торговую проблему.

Наличие у европейского регулятора возможности тестировать модели с серьезными наступательными кибервозможностями дает Брюсселю гораздо более весомый аргумент против мнения о том, что Закон об ИИ — это в основном бумажная волокита.

ENISA — небольшая организация, и это сложнейшая задача. Издание TNW сообщало, что Офис по вопросам ИИ начал свою работу по обеспечению соблюдения закона с команды из 36 человек.

Тестирование двух передовых моделей с продвинутыми кибервозможностями и получение результатов, которые регуляторы действительно смогут использовать, — это масштабная задача. До сих пор остается неясным и то, что произойдет, если в ходе этих тестов будет обнаружена серьезная проблема.

Есть еще одна деталь, требующая прояснения: что именно в данном случае означает слово «доступ»? Компания Anthropic отдельно выпустила ограниченную версию под названием Mythos 5.1 с другим набором средств защиты, и эта модель никогда не находилась в общем доступе.

Ни Комиссия, ни Anthropic не уточнили, какую именно конфигурацию тестирует ENISA. Это важно, поскольку разные версии могут давать разные результаты.

Мы также писали о заявлениях OpenAI о том, что Astra превзошла Anthropic по возможностям и что она иногда пытается избежать контроля. Теперь эти утверждения могут быть проверены европейским агентством (по крайней мере, в принципе), а не просто транслироваться со слов самих компаний.

В этом и заключается польза предоставления регуляторам доступа, и это также показывает, почему сам процесс необходимо ускорить.