SandboxAQ запустила два инструмента, которые помогают компаниям проверять, безопасны ли их ИИ-агенты и оправдывают ли они затраты, сообщила компания в понедельник. Switch Trust и Switch ROI входят в платформу Switch AI, запущенную в августе.
Сначала Switch Trust составляет список ИИ-агентов, моделей и инструментов, работающих в системах компании, включая те, о которых её команда безопасности может не знать. Затем инструмент проверяет их на уязвимости и тестирует на устойчивость к атакам, например к внедрению промптов, когда скрытые инструкции заставляют агента вести себя нежелательным образом.
После запуска агента Switch Trust проверяет, какие данные поступают в него и что он передаёт, сообщила компания. Инструмент может блокировать или скрывать утекшие пароли, персональные данные и другой небезопасный контент, а также вести журнал действий каждого агента.
Switch ROI отслеживает расходы на каждого агента и сопоставляет их с результатами — например, с числом закрытых обращений в службу поддержки или автоматизированных задач. Инструмент также предлагает способы сэкономить: например, перенести работу на более дешёвую модель ИИ или отказаться от инструментов, которыми агент никогда не пользуется.
Оба продукта работают с агентами любых поставщиков, сообщила SandboxAQ. Они бесплатны для управления не более чем пятью агентами, говорится в публикации в блоге компании; цены на платные тарифы не указаны.
Мохаммед Абул-Магд, руководитель Switch AI, рассказал, что компания наблюдала, как расходы на ИИ, внедрённый для замены нового сотрудника, в итоге превышали затраты на штатного работника. Лаборатория MSW при больнице Mount Sinai West использует Switch Trust: её врачи создают медицинское программное обеспечение с помощью ИИ-агентов, сообщила SandboxAQ.
Запуск состоялся на фоне того, что многим компаниям не удаётся извлечь пользу из ИИ-агентов. Gartner прогнозирует, что к концу 2027 года будет отменено более 40% проектов в области агентного ИИ. AWS также сообщила, что почти 90% ранних прототипов агентов Amazon так и не были запущены.
Растёт и обеспокоенность вопросами безопасности. Google, JPMorgan и другие компании устранили одну и ту же уязвимость в MCP — распространённом стандарте для подключения агентов к инструментам.
Опубликовано 19 октября 2026 - 09:06 Наверх
