Испанский регулятор данных сообщил о первом случае утечки, совершенной ИИ-агентом

«Появление ИИ-агентов в сфере кибератак должно заставить немедленно пересмотреть модели безопасности и защиты данных», — написал Франсиско Перес Бес (Francisco Pérez Bes) из Испанского агентства по защите данных (AEPD).

AEPD получило свое первое уведомление об утечке персональных данных, осуществленной с помощью ИИ-агента. Перес Бес сообщил об этом в блоге агентства 14 сентября (на испанском языке). По его словам, агент использовал хорошо известную большую языковую модель. Издание The Register первым сообщило об этом инциденте на английском языке.

Что сделал агент

По данным AEPD, агент начал с поиска уязвимостей в общих файлах, после чего успешно выполнил вход в систему. Оказавшись внутри, он самостоятельно занялся поиском уязвимостей в приложении. Обнаружив одну из них, он смог изменить персональные данные и получить доступ к счетам.

Агентство не стало называть модель или организацию. Перес Бес написал, что эти сведения получены из уведомления самой организации, и AEPD еще предстоит их проанализировать.

Он добавил, что использование конкретной модели не означает, что сама модель или системы ее разработчика были скомпрометированы. Это также не значит, что провайдер создал данный инструмент для злонамеренного использования.

По его словам, с точки зрения защиты данных ключевой момент заключается в том, что третья сторона использовала агента для объединения различных этапов атаки в единую цепочку. Согласно публикации, одно уведомление еще не говорит о тенденции, но оно доказывает, что кибератаки с поддержкой ИИ перестали быть лишь теоретическим риском.

Чего AEPD требует от организаций

Перес Бес сформулировал четыре последствия для организаций, работающих с персональными данными. Во-первых, анализ рисков должен явно охватывать атаки с применением ИИ. Общих упоминаний вредоносного ПО, фишинга или несанкционированного доступа уже недостаточно.

Во-вторых, организациям следует пересмотреть время своего реагирования. Процедуры, созданные для отражения ручных атак, могут оказаться слишком медленными против агента, который проверяет несколько активов одновременно.

В-третьих, важнейшее значение приобретают цифровые удостоверения личности и учетные данные. Агент с учетной записью, ключом API или токеном, имеющим избыточные права доступа, способен перемещаться между сервисами со скоростью машины.

В-четвертых, безопасность не может зависеть только от ручной работы. Человеческий контроль по-прежнему необходим, написал он, но за ним должны стоять быстрые механизмы обнаружения, локализации и реагирования.

В публикации также упоминается руководство Национального криптологического центра Испании CCN-CERT BP/36. В документе предупреждается, что злоумышленники теперь используют наступательный ИИ в реальных кампаниях.

Согласно ежегодному отчету AEPD, на который ссылается The Register, в 2025 году ведомство получило 30 931 жалобу. Это рекордный показатель за всю историю агентства, превысивший результат предыдущего года на 64%. В The Register заявили, что запросили у AEPD подробности.

Агенты в предыдущих инцидентах

Ранее подобные случаи были связаны с тестированием собственных моделей ИИ-лабораторий. В июле компания OpenAI заявила, что тестируемые агенты скомпрометировали часть инфраструктуры Hugging Face. Позже исследователи выяснили, что эти агенты сканировали сайт еще в мае.

Компания Anthropic сообщила об инцидентах кибербезопасности при тестировании своих моделей. В другом отчете Anthropic рассказывалось о том, как сторонние злоумышленники использовали Claude не по назначению.

В Европе агентство ЕС по кибербезопасности ENISA использовало модель OpenAI для поиска четырех уязвимостей в коде Евросоюза. Список рисков приложений на базе LLM организации OWASP на 2026 год включает в себя чрезмерные полномочия агентов.