Zscaler, облачная платформа кибербезопасности, опубликовала данные о рисках, связанных с этими тенденциями, в отчёте ThreatLabz 2026 AI Security Report.
Отчёт основан на анализе почти триллиона транзакций ИИ и машинного обучения, которые около 9 000 организаций совершили в 2025 году. Согласно его выводам, за год количество транзакций ИИ/МО на платформе выросло на 83%. При этом число приложений, генерировавших этот трафик, почти учетверилось и превысило 3 400.
Для директоров по информационной безопасности это означает, что ИИ нередко взаимодействует с конфиденциальными корпоративными данными в тех областях, которые службы безопасности не отслеживают активно и не классифицируют как использование ИИ.
Значительная часть внедрения происходит в обход традиционных процедур закупки ИИ и проверки безопасности, поэтому управлять этими тенденциями сложно. Это добавляет неопределённости в картину использования ИИ в организации.
Стремительное внедрение ИИ ставит службы безопасности перед сложной задачей. Им необходимо выяснить, какие инструменты ИИ действительно используются, у кого есть к ним доступ и куда передаются корпоративные данные. Не имея чёткого представления об этой деятельности, команды пытаются наспех защитить стек ИИ, который не могут полностью видеть.
Корпоративная среда ИИ расширяется
Новые версии ИИ могут попадать в корпоративную экосистему по большему числу каналов, чем способны отслеживать большинство служб безопасности. Они появляются в очевидных местах — например, на утверждённых платформах и в помощниках, которыми сотрудников обучают пользоваться.
Но корпоративная среда ИИ расширяется и незаметно. Она растёт за счёт функций ИИ, встроенных непосредственно в существующие программные платформы, а также API, связывающих сервисы ИИ с конфиденциальными внутренними системами. Ещё один источник роста — автономные агенты, самостоятельно выполняющие задачи.
Согласно индексу Agentic Enterprise Index компании Salesforce, с февраля 2025-го по апрель 2026 года клиенты Salesforce, использующие агентов в рабочей среде, более чем удвоили число агентов на основе ИИ. Это свидетельствует о широком внедрении ИИ-агентов для выполнения задач, которые прежде решали люди.
Отдельно в отчёте ThreatLabz компании Zscaler отмечается, что в 2025 году объём передачи данных приложениям ИИ/МО вырос на 93%. Кроме того, только в связи с ChatGPT было зафиксировано 410 миллионов нарушений политик предотвращения утечек данных (DLP), в том числе попытки передать номера социального страхования, исходный код и медицинские карты.
Организации могут удивиться, узнав, что рост этого риска объясняется не только внедрением новых программ. Например, в уже используемом приложении может появиться функция на основе ИИ. Сотрудники начинают пользоваться ею как естественным дополнением к одобренному инструменту, которому уже доверяют. Они не воспринимают её как новую систему, требующую отдельной проверки.
Есть и другой сценарий теневого использования: сотрудник добавляет неутверждённый инструмент ИИ, чтобы упростить свою работу. Несмотря на благие намерения, он обычно не осознаёт рисков, связанных с обработкой данных.
Из-за такого теневого ИИ в разных уголках компании появляется всё больше несанкционированных инструментов, которые не учтёт ни одна инвентаризация.
Невозможно защитить то, чего не видишь
Служба безопасности умеет защищать те элементы корпоративного стека ИИ, о существовании которых ей известно. Однако инструмент может обойти процедуры согласования или мониторинга, даже если он не скрыт и не является несанкционированным.
Для этого достаточно работать за пределами категорий, которые изначально должна была отслеживать программа безопасности. Это может быть расширение браузера или функция, автоматически включающаяся в уже используемом приложении.
В опросе Gartner среди 302 руководителей в сфере кибербезопасности 69% заявили, что подозревают использование сотрудниками запрещённых общедоступных генеративных ИИ-инструментов или располагают доказательствами такого использования. Традиционная инвентаризация приложений учитывает программы, которые были официально установлены или закуплены. По своей сути она не позволяет выявить подобную деятельность.
Чтобы выявить теневой ИИ, необходимо получить полное представление о том, кто использует эти инструменты. Также нужно знать, к каким приложениям и системам они подключаются и к каким данным получают доступ после подключения.
Во многих случаях функции ИИ всё чаще появляются внутри инструментов, уже одобренных для других целей. Поэтому это не отдельная категория риска. Это скрытый слой внутри систем, которые команды уже считали хорошо изученными.
При выявлении ИИ нужно учитывать и данные
Инвентаризация различных инструментов в корпоративном стеке ИИ отвечает лишь на часть вопросов. Важнее всего точно отслеживать, какая информация поступает в этот стек и перемещается внутри него. Это становится актуальным, когда им начинают пользоваться сотрудники или ИИ-агенты.
В запросах могут содержаться закрытый исходный код или сведения о клиентах. А загрузка файла, которая кажется безобидной, может раскрыть целый документ, который сотрудник по незнанию вовсе не собирался передавать.
Агенты добавляют задаче совершенно новый уровень сложности. Данные, с которыми они работают, часто связаны с приложениями и разрешениями, к которым у них есть доступ. Одна лишь инвентаризация инструментов не позволит эффективно учесть эту деятельность.
Само по себе знание о том, что приложение использует ИИ, мало что говорит о том, может ли оно обращаться к базе данных клиентов, записывать данные на общий диск или передавать их дальше другим сервисам.
Критерий эффективного выявления — возможность отслеживать потоки данных и разрешения наряду с самими инструментами. Ведь реальный риск заключается в том, к чему ИИ может получить доступ и что он может перемещать, а не просто в самом факте его наличия.
От контроля использования ИИ к управлению рисками
Понимание того, где используется ИИ, помогает принимать более взвешенные решения. Получив надёжное представление об использовании ИИ, службы безопасности смогут отличить допустимые действия с низким уровнем риска от тех, которые требуют более пристального внимания или строгих ограничений.
Такой подход позволяет соразмерять меры контроля реальным рискам, а не применять одну общую политику ко всем случаям использования ИИ. Например, маркетинговая команда может использовать утверждённый помощник для работы с открытыми материалами. Для этого нужны не те же правила, что для агента, имеющего доступ к финансовым документам.
В таком случае меры безопасности зависят от пользователя, приложения, чувствительности данных, уровня разрешений и сценария использования.
Как правило, блокировка ИИ не снижает его использование, а лишь загоняет его глубже в тень. Соразмерные меры контроля позволяют службам безопасности поддерживать обоснованные сценарии использования и при этом сохранять надзор.
Здесь контроль использования ИИ сочетается с принципами нулевого доверия и защиты данных, на которых уже основана работа большинства служб безопасности. Постоянно проверяйте, предоставляйте доступ с учётом контекста и никогда не доверяйте по умолчанию.
Безопасность ИИ начинается с понимания среды его использования
Эффективность политики управления зависит от того, насколько полную картину она отражает. Организация может установить строгие правила использования ИИ. Но обеспечить их соблюдение трудно, если нет чёткого и актуального представления о том, какие инструменты, приложения и агенты используются в компании.
И эта картина постоянно меняется. В существующих программах появляются новые возможности ИИ, а агенты берут на себя всё больше автономных задач в рабочих процессах. Поэтому выявление ИИ должно быть непрерывным процессом, а не разовой проверкой.
С учётом выводов и рекомендаций из отчёта Zscaler организации смогут эффективнее обеспечивать безопасность ИИ, если будут располагать полной информацией о том, как используется ИИ, кто получает к нему доступ и как через него проходят корпоративные данные.
Благодаря такой прозрачности быстро растущую и зачастую непрозрачную среду использования ИИ можно поставить под уверенный контроль служб безопасности.
Опубликовано 22 октября 2026 - 02:45 Наверх
