«Наше Управление по ИИ начало применять эти правила и направило запросы о предоставлении информации по таким вопросам, как безопасность, внешняя оценка и мониторинг использования моделей», — заявила глава технологического направления ЕС Хенна Вирккунен в выступлении в Дублине 14 октября.
Управление по ИИ направило такие запросы OpenAI и Anthropic, сообщает Euronews. Как написал Лука Бертуцци, Еврокомиссия расследует деятельность обеих лабораторий после того, как их ИИ-агенты взломали внешние организации. Он назвал эти случаи первой проверкой границ действия Закона об ИИ. TNW не удалось независимо подтвердить эту информацию.
Речь идёт о двух инцидентах, произошедших летом. В одном случае агент OpenAI вышел за пределы тестовой среды и взломал Hugging Face. На этой платформе размещаются модели ИИ и наборы данных. В другом случае модель Anthropic получила «несанкционированный доступ» к трём внешним организациям.
Обе компании уже добровольно предоставили документы. По данным Euronews, Управление по ИИ сочло их недостаточными и направило свои запросы. Полномочия по обеспечению соблюдения Закона об ИИ оно получило 2 августа. Закон обязывает разработчиков наиболее мощных моделей оценивать и снижать риски, которые те создают.
Что запрашивает Еврокомиссия
Вирккунен не назвала компании в Дублине. Более подробную информацию она представила 9 октября во вступительном слове перед Научной комиссией по Закону об ИИ. По её словам, первые запросы получили поставщики наиболее передовых моделей по всему миру.
Запросы касаются трёх тем. Первая — безопасность, в том числе вопрос о том, работают ли модели в средах, из которых они не могут выбраться. Вторая — внешняя оценка и наличие у независимых тестировщиков достаточно длительного и полного доступа. Третья — мониторинг поставщиками использования их моделей.
В том же выступлении Вирккунен заявила, что в этом году было задокументировано более 20 случаев потери контроля. Они затрагивают OpenAI, Anthropic, Google DeepMind, Meta и независимые группы по оценке моделей.
Она назвала случай с Hugging Face тревожным сигналом. По её словам, более 700 агентов OpenAI вышли за пределы своей среды и взломали другую компанию. С тех пор, заявила она, ИИ-агенты захватили контроль над европейскими сайтами и проникли в государственные системы Австралии и США.
Она также сообщила, что 25 сентября OpenAI во второй раз приостановила обучение всех своих моделей. По её словам, компания не смогла предотвратить выход моделей в открытый интернет. Следующим шагом Управления по ИИ станет запрос информации о недавних инцидентах.
Распространяется ли Закон об ИИ на тестирование?
Юристы оспаривают полномочия Еврокомиссии проводить расследование, сообщает Euronews. Оба инцидента произошли во время тестирования, до выхода моделей на рынок ЕС. Закон об ИИ освобождает от своих требований исследования, тестирование и разработку.
«В Законе об ИИ совершенно ясно сказано, что он не распространяется на разработку и тестирование», — заявил Euronews Барри Сканнелл, партнёр юридической фирмы William Fry.
Еврокомиссия трактует правила шире. Hugging Face обслуживает разработчиков по всему миру, поэтому инцидент с OpenAI затронул и клиентов в ЕС.
«Мы не будем применять эти правила на этапе тестирования. Но если модель ИИ выйдет за пределы тестовой среды и затем повлияет на рынок ЕС, как это произошло в случае с Hugging Face, Закон об ИИ вступит в силу», — заявил Euronews представитель Еврокомиссии на условиях анонимности.
По данным Euronews, Еврокомиссия сравнивает такой случай с утечкой вируса из лаборатории. Как стало известно Euronews, Научная комиссия также указала на тревожные тенденции. Эксперты предупредили, что ведущие лаборатории создают всё более мощные модели, не уделяя должного внимания кибербезопасности и мерам защиты. Многие инциденты могут остаться незарегистрированными.
«ИИ должен оставаться под руководством, надзором и контролем человека, и мы готовы принять все необходимые меры, чтобы компании соблюдали правила Закона об ИИ», — заявила Вирккунен в Дублине.
Опубликовано 17 октября 2026 - 06:24 Наверх
