GTIG обнаружила инструмент, который она называет exploit_agent, на открытом промежуточном сервере. Он работает с несколькими передовыми и локально запускаемыми моделями ИИ. Инструмент сравнивает код популярного веб-ПО до и после каждого патча и выявляет вероятные уязвимости. Затем он пишет эксплойты и самостоятельно их запускает.
В предыдущем выпуске ежеквартального отчёта, два месяца назад, GTIG заявляла, что не видела применения полностью автономных цепочек атак против реальных целей, сообщает SiliconANGLE.
На сервере также хранились данные, похищенные у жертв. Там были скрипты для подбора паролей методом перебора, установки веб-шеллов и удаления веб-шеллов конкурирующих злоумышленников. Конфигурационный файл содержал комментарии на русском языке. Судя по данным жертв, оператор атаковал французские сайты СМИ, индустрии развлечений и образования, сообщила GTIG.
От патча к эксплойту
Исправленные уязвимости могут быть более лёгкой целью для ИИ, чем неизвестные, отметила Google. Злоумышленники могут изучать ограниченный набор материалов: старый и новый код, примечания к выпуску и публичные исследования.
Компания привела в пример две уязвимости в серверах печати PaperCut, которые злоумышленники объединили в цепочку в конце августа. Исследователи и компания по кибербезопасности Huntress с помощью ИИ создали работающие эксплойты в течение суток после раскрытия. Через четыре дня после раскрытия злоумышленник, по всей видимости, использовал ИИ для проведения кампании против сотен организаций, по данным GreyNoise.
После того как в октябре были исправлены уязвимости в PHP, появились сотни нерабочих эксплойтов-концептов. Многие из них, вероятно, создал ИИ, говорится в отчёте.
Фреймворки для атак в реальных условиях
Несколько группировок уже применяют ИИ-фреймворки для взлома с открытым исходным кодом в реальных атаках, сообщила GTIG. Среди них — финансово мотивированные банды и предполагаемые китайские шпионские группы. Компания зафиксировала использование фреймворка CAIRN против целей, в том числе в аэрокосмической отрасли США.
Эти инструменты «шумные» и оставляют следы, которые облегчают их обнаружение, отметила Google. Компания ожидает, что по мере совершенствования инструментов злоумышленники будут меньше полагаться на людей и станут действовать скрытнее.
«Мы считаем весьма вероятным, что злоумышленники продолжат использовать эти фреймворки в кампаниях против организаций по всему миру», — написала GTIG.
В отчёте также описываются злоумышленники, которые крадут учётные данные облачных и ИИ-сервисов, чтобы запускать модели за счёт аккаунтов жертв. В некоторых случаях мошеннические списания превышали 100 000 долларов за один день, говорится в документе. В одной из атак использовалась уязвимость в шлюзе LiteLLM. Предположительно северокорейская группировка изменяла файлы настроек Claude Code внутри компаний так, что при каждом запуске загружался бэкдор. Google сообщает, что заблокировала аккаунты и ресурсы, связанные со злоупотреблением её моделями Gemini.
Опубликовано 16 ноября 2026 - 13:14 Наверх


