Новое поколение инструментов ИИ, обычно называемых агентными системами, не ограничивается сигналом тревоги. Представьте необычный вход в систему в три часа ночи. Старая модель подняла бы тревогу. Агент может проверить устройство, выяснить, откуда с него входили раньше, сопоставить данные с лентами аналитики угроз, сделать вывод о взломе аккаунта и заблокировать его — и всё это до того, как аналитик откроет заявку. В такой ситуации вполне уместно спросить: вы всё ещё пользуетесь инструментом или уже руководите коллегой?
В новом отчёте CertiK приводятся аргументы в пользу второго варианта. Как утверждают авторы, когда система ИИ может расследовать инцидент, принимать решения и действовать, вопрос о том, «работает» ли модель, — лишь часть общей картины. Компаниям также нужно определить, что может делать агент, в каких случаях должен вмешиваться человек и кто понесёт ответственность, если система ошибётся.
От второго пилота к оператору
Нетрудно понять, почему команды безопасности хотят использовать такие системы. Атаки развиваются с машинной скоростью, нехватка специалистов никуда не исчезла, а нанимать всё больше аналитиков для разбора ложных срабатываний — решение, которое никогда не смогло бы масштабироваться.
Агенты могут взять на себя первоначальное расследование, собирая данные из разных инструментов безопасности и передавая людям только те случаи, которые требуют их участия. Более автономные системы идут дальше: изолируют заражённый ноутбук или аннулируют токен сеанса, а проверку человеком оставляют на потом.
С не менее серьёзными переменами сталкиваются и команды по вопросам соблюдения нормативных требований. Раньше проверка благонадёжности нового клиента означала, что аналитик вручную изучал санкционные списки, реестры компаний и новостные архивы. Теперь агент может проводить эти проверки параллельно, выявлять связи между подозрительными аккаунтами и передавать готовое досье. Некоторые системы даже составляют проекты сообщений о подозрительной деятельности, так что специалисту по соблюдению требований остаётся проверить и подписать документ, а не писать его с нуля. По данным исследования CertiK, только за первую половину 2025 года штрафы за нарушения требований по борьбе с отмыванием денег превысили 900 миллионов долларов. Поэтому стремление качественно выполнять такую работу в больших масштабах вполне реально.
Есть ещё криптовалюты, где проблема скорости достигает крайних масштабов. Транзакции в блокчейне нельзя отменить после подтверждения, а атака с использованием флэш-кредита может опустошить протокол за одну транзакцию. В предыдущем исследовании CertiK установила, что хакеры, связанные с Северной Кореей, в течение месяца конвертировали в биткоин 86,29% ETH, похищенных в результате взлома Bybit, переводя средства через миксеры, мосты и внебиржевых брокеров. Ни одна команда специалистов не сможет отслеживать такой маршрут в реальном времени.
Поэтому некоторые протоколы напрямую связывают обнаружение угроз с реагированием на них. Если агент выявляет признаки манипуляции оракулом или необычного оттока ликвидности, он может приостановить уязвимую функцию или активировать автоматический выключатель в том же блоке. К тому времени, как человек увидит оповещение, всё уже закончится — так или иначе.
Кто следит за ИИ?
Но есть нюанс. Если дать агенту доступ к вашим системам и разрешить ему действовать самостоятельно, вы создадите весьма привлекательную мишень. CertiK отмечает, что с помощью внедрения промптов или подмены входных данных агента можно обманом заставить его одобрить мошенническую транзакцию или отключить действующий механизм защиты.
Даже без злоумышленников ИИ ошибается. Агент может пропустить реальное вторжение, потому что оно похоже на ложное срабатывание, которое он уже видел сотню раз. Система для борьбы с отмыванием денег может составить аккуратное и уверенное описание цепочки транзакций, которое окажется просто неверным. Агент для аудита смарт-контрактов может подтвердить наличие свойства безопасности, которого у контракта на самом деле нет, — и в итоге контракт выйдет в свет с уязвимостью.
Но, возможно, главный риск связан с последствиями для людей. Когда система 99 раз подряд оказывается права, проверяющие перестают так же внимательно проверять сотый случай. Это предвзятость автоматизации, и она обычно проявляется именно тогда, когда редкая, но дорогостоящая ошибка с наибольшей вероятностью может остаться незамеченной.
Аудит аудитора
Ситуация становится ещё необычнее, когда ИИ-агенты начинают напрямую участвовать в экономике: торговать активами, управлять казначейством и взаимодействовать с протоколами DeFi от имени людей и компаний. Это поднимает вопрос, на который регуляторы пока не дали чёткого ответа: как проводить аудит самого агента? CertiK рассматривает это как новую категорию — соблюдение требований силами ИИ, а не их соблюдение с его помощью. На практике это означает, что необходимо сохранять записи о том, какие данные видел агент, как он пришёл к своему решению и что сделал.
Эти записи особенно важны, когда что-то идёт не так. Если агент ошибочно блокирует аккаунт клиента, подаёт неточное сообщение о невиновном человеке или без причины приостанавливает работу протокола, фраза «так решил алгоритм» не удовлетворит ни регулятора, ни суд. Ответственность по-прежнему лежит на организации, внедрившей систему, и на тех, кто её настроил и контролировал. А поскольку правила ответственности за действия автономных систем в разных юрисдикциях ещё далеки от окончательного определения, компания, неспособная показать, кто и что одобрил, окажется в невыгодном положении.
Управление программным обеспечением как персоналом
В итоге компании могут начать управлять ИИ-агентами примерно так же, как сотрудниками. CertiK рекомендует определить для каждого агента пределы полномочий и чёткие условия передачи задачи человеку, вести полный учёт его решений, имеющих значимые последствия, регулярно проверять устойчивость системы к манипуляциям с помощью red teaming (а не только тестов точности) и назначить конкретного человека, ответственного за её работу.
Для специалистов по безопасности это означает появление нового типа задач: меньше времени на разбор каждого оповещения и выполнение каждого ответного действия — больше на контроль систем, работающих быстрее любого человека.
Вопрос о том, какую часть работы по обеспечению безопасности можно автоматизировать с помощью ИИ, становится всё менее интересным. Гораздо сложнее понять, какой объём полномочий компании готовы ему передать и смогут ли они заранее выстроить соответствующий контроль — прежде чем что-то пойдёт совсем не так.
Опубликовано 5 октября 2026 - 07:43 Наверх
