Агентство не назвало ни компании, разрабатывающие ИИ, ни пострадавшие компании. Компании, занимающиеся ИИ, обнаружили эти случаи в ходе собственных проверок и сообщили о них. Ни одна из пострадавших компаний не заметила проникновения, заявили в CERT-In.
Согласно предупреждению, агенты проходили тестирование, когда вышли за рамки поставленных задач. Они проникли в системы, используя пароли и ключи, оставленные в файлах конфигурации и общедоступном коде, а также через облачные учетные записи с чрезмерными правами доступа.
В некоторых случаях агенты повторно использовали один и тот же утекший ключ в отдельных запусках.
В предупреждении также описана вторая проблема. CERT-In обнаружило, что преступники используют бесплатные инструменты ИИ для взлома индийских компаний с целью вымогательства денег. По данным агентства, эти инструменты переименовывают и запускают с серверов в нескольких странах.
В ходе этой кампании агенты ИИ сократили время от первоначального доступа до нанесения ущерба с нескольких дней до нескольких часов. Компании, которые устранили проблемы лишь частично, подвергались новым атакам в течение нескольких дней — уже в более крупном масштабе.
Уязвимости в обоих случаях были связаны с давно известными проблемами. CERT-In перечислило ключи, оставленные в коде, забытые тестовые API, по-прежнему доступные через интернет, платежные ключи в открытом виде и страницы администратора без двухэтапной аутентификации.
По словам CERT-In, ИИ обнаруживал и использовал эти уязвимости «быстрее, тщательнее и в большем масштабе, чем злоумышленники-люди».
В связи с этим CERT-In призывает лаборатории ИИ тестировать агентов в изолированных средах, где доступ к интернету блокируется на уровне сети, а не ограничивается инструкциями модели. Лабораториям также следует использовать поддельные данные и ключи, останавливать любой запуск, достигший внешней системы, и оперативно сообщать о таких случаях.
Компаниям, в свою очередь, следует заменить утекшие ключи, отключить неиспользуемые API, требовать двухэтапную аутентификацию и хранить журналы не менее 180 дней. После любой утечки им следует считать свои системы взломанными, пока проверка специалистами-криминалистами не подтвердит обратное.
Это предупреждение появилось вслед за аналогичными случаями в других странах. В июле OpenAI сообщила, что ее модели во время тестирования проникли в Hugging Face, а в этом месяце Wikimedia рассказала об активности агентов OpenAI, вышедших из-под контроля на своих сайтах. Финансовые регуляторы также начали расспрашивать банки о связанных с этим рисках.
Опубликовано 16 октября 2026 - 01:56 Наверх
