Как многоагентный ИИ меняет корпоративное ПО

Десятилетиями корпоративное программное обеспечение создавалось в первую очередь для фиксации того, что бизнесу уже известно: информации о клиентах, финансовых транзакций, действий сотрудников, запасов, воронки продаж и операционных решений. Эти платформы стали системами учета, на которые организации полагались для поддержания единой версии истины.

Искусственный интеллект начинает бросать вызов этой модели. Появление многоагентных ИИ-систем способно подтолкнуть корпоративное ПО к чему-то более динамичному — системам действия, которые не просто хранят информацию, а интерпретируют ее, координируют решения и инициируют задачи.

Этот сдвиг имеет важное значение, поскольку корпоративные рабочие процессы редко состоят из одного вопроса с одним ответом. Например, проблема в службе поддержки клиентов может потребовать изучения истории аккаунта, проверки условий договора, поиска потенциального решения, обновления тикета и связи с другим отделом. Один ИИ-ассистент может помочь с отдельными шагами, но для координации всего рабочего процесса требуется нечто больше похожее на команду специализированных цифровых сотрудников.

Именно здесь в игру вступает многоагентная оркестрация. Для Сваруп Борукар (Swaroop Borukar), опытного продакт-менеджера, работающего в сфере инфраструктуры ИИ в Workday, это представляет собой фундаментальное изменение в том, как можно концептуализировать корпоративные приложения.

Сваруп говорит: «Реальная возможность многоагентного ИИ заключается в выходе за рамки систем, которые просто отвечают на вопросы. Наделяя специализированные агенты четкими обязанностями и способностью к координации, предприятия могут начать создавать программное обеспечение, которое понимает бизнес-цель и помогает выполнять рабочий процесс, необходимый для ее достижения».

Почему одноагентного ИИ недостаточно для корпоративных рабочих процессов

Первое поколение корпоративного генеративного ИИ было в основном сосредоточено на модели чат-бота или второго пилота (copilot). Пользователь задает вопрос, ИИ извлекает информацию или генерирует контент, а пользователь решает, что делать дальше.

Этот подход остается полезным, но сложные корпоративные среды требуют большего.

Современные предприятия функционируют в десятках или даже сотнях взаимосвязанных приложений. Рабочий процесс может охватывать CRM-платформы, финансовые системы, инструменты управления проектами, внутренние базы данных и коммуникационные приложения. Каждая система имеет собственные права доступа, структуры данных и бизнес-правила.

Многоагентная архитектура позволяет распределить эти обязанности между специализированными агентами. Один агент может извлекать релевантную информацию, другой — анализировать ее, третий — определять, какое действие следует предпринять, а еще один — проверять предлагаемое действие на соответствие организационным политикам.

«Один агент общего назначения не всегда является лучшей архитектурой для сложных корпоративных сред, — объясняет Сваруп. — Специализированные агенты могут быть разработаны под конкретные функции, права доступа и бизнес-правила, что делает всю систему более управляемой, наблюдаемой и надежной».

Цель состоит не просто в одновременном запуске нескольких моделей ИИ. Задача заключается в создании архитектуры, в которой агенты имеют четко определенные обязанности и контролируемые способы взаимодействия друг с другом и с корпоративными системами.

Это различие имеет принципиальное значение. Без эффективной оркестрации добавление большего количества агентов может создать дополнительную сложность, а не большую эффективность.

Поэтому для технологических лидеров интерес представляет не то, могут ли предприятия подключать модели ИИ к своему ПО, а то, как они могут построить архитектуру, в которой автономные компоненты сотрудничают достаточно надежно для участия в реальных бизнес-процессах.

Анатомия архитектуры многоагентной корпоративной системы

Хорошо спроектированная многоагентная система больше напоминает скоординированную организацию, чем традиционный чат-бот.

В ее основе лежит слой оркестрации, отвечающий за определение того, какой агент должен обрабатывать конкретную задачу, какую информацию он должен получить и что должно произойти после завершения его работы. Отдельные агенты могут быть оптимизированы под более узкие функции, вместо того чтобы пытаться решить каждую проблему в одиночку.

Такая специализация может иметь практические преимущества.

Например, агент, предназначенный для сверки финансовых данных, может работать по иным правилам, чем агент, отвечающий за коммуникацию с клиентами. Агент, ориентированный на соблюдение нормативов (комплаенс), может проверять, разрешено ли предлагаемое действие до того, как его выполнит другой агент.

Архитектура также может включать инструменты и API, позволяя агентам взаимодействовать с существующими корпоративными системами, а не работать изолированно.

Для Сваруп инженерная задача заключается в том, чтобы сделать эти взаимодействия предсказуемыми и наблюдаемыми.

«Интеллект агента — это лишь часть уравнения, — говорит она. — Корпоративным системам также необходимы мощная оркестрация, четко определенные интерфейсы, безопасный доступ к данным и инструментам, а также наблюдаемость во всем рабочем процессе. Без этих основ добавление новых агентов может просто увеличить сложность».

Тем не менее, оркестрация порождает собственные инженерные трудности. Разработчики должны учитывать коммуникацию между агентами, противоречивые рекомендации, неполную информацию и ситуации, в которых агент делает неверное предположение. Системе необходимы механизмы обнаружения ошибок и определения моментов, когда задачу следует эскалировать человеку.

Это делает многоагентный ИИ в равной степени задачей системной инженерии и задачей в области ИИ.

Качество базовой языковой модели имеет значение, но не менее важны сопутствующая архитектура, доступ к данным, наблюдаемость, аутентификация и дизайн рабочих процессов.

Разработка защитных механизмов (гардов) для автономного ИИ

Предоставление ИИ-системе возможности генерировать ответ кардинально отличается от наделения ее способностью что-то менять в корпоративной среде.

Неверная сводка может быть просто неудобной. Неверный платеж, изменение клиентского счета или регуляторное решение могут иметь гораздо более серьезные последствия.

Следовательно, корпоративные многоагентные системы требуют тщательно продуманных защитных барьеров.

Права доступа — один из важных уровней. Агенты должны иметь доступ только к той информации и тем инструментам, которые необходимы для выполнения их обязанностей. Например, агенту службы поддержки может потребоваться доступ к информации об учетной записи, но не неограниченный доступ к финансовым системам.

Человеческий контроль — еще один уровень. Не каждое действие требует ручного утверждения, но организации могут установить пороги, при которых решения с более высоким уровнем риска автоматически перенаправляются человеку.

Аудируемость имеет не меньшее значение. Предприятиям необходимо понимать, что сделал агент, какая информация повлияла на его решение и какие другие агенты или системы были задействованы. Без такой прозрачности диагностика сбоев становится сложной задачей.

По мнению Сваруп, эти меры безопасности должны закладываться в архитектуру с самого начала, а не добавляться после развертывания.

«Автономия в корпоративной среде должна быть спроектирована, а не предполагаться по умолчанию», — говорит Сваруп, продакт-менеджер в Workday

По ее словам, агентам необходимы четко определенные права доступа, аудируемость и механизмы эскалации, чтобы организации могли извлекать выгоду из автоматизации, сохраняя при этом человеческий контроль над решениями, имеющими серьезные последствия.

Таким образом, архитектура должна рассматривать автономию как спектр, а не как переключатель вкл/выкл.

Низкорисковые, рутинные задачи потенциально могут быть автоматизированы от начала и до конца. Более ответственные действия могут потребовать валидации, дополнительной проверки агентом или явного одобрения человеком.

Этот подход создает более реалистичный путь к внедрению на уровне предприятий: увеличивать автономию там, где риск управляем, и сохранять контроль там, где последствия значительны.

Инфраструктурный вызов за кулисами агентного ИИ

Существует еще одна проблема, которой уделяется меньше внимания за пределами технических кругов — экономика.

Запуск одного взаимодействия с ИИ относительно прост. Запуск сложного агентского воркфлоу, включающего несколько агентов, повторяющиеся вызовы моделей, поисковые системы, выполнение инструментов и процессы валидации, может потребовать значительно больше вычислительных ресурсов.

В масштабах предприятия это порождает вопросы вокруг задержек (латенти), емкости и стоимости.

Должна ли каждая задача использовать самую мощную доступную модель? Вероятно, нет. Некоторые операции могут обрабатываться меньшими, более быстрыми моделями, в то время как более сложные задачи рассуждения перенаправляются в более крупные системы.

Управление рабочей нагрузкой также становится важным. Корпоративной платформе может потребоваться обрабатывать тысячи одновременных агентских процессов, каждый из которых конкурирует за вычислительные ресурсы. Системы должны быть спроектированы так, чтобы предотвратить создание неприемлемых задержек или затрат из-за внезапного всплеска активности.

Именно здесь традиционный опыт работы с распределенными системами становится все более актуальным для архитектуры ИИ.

Балансировка нагрузки, управление очередями, кэширование, наблюдаемость и отказоустойчивость — не новые концепции. Меняется лишь природа рабочих нагрузок, которые они должны поддерживать.

«Многоагентные системы ставят перед инфраструктурой новые задачи, поскольку одна задача может запустить цепочку вызовов моделей, выполнения инструментов и последующих действий, — отмечает Сваруп. — Следовательно, архитектура должна учитывать задержки, емкость и стоимость, используя подходящую модель для каждой части агентного рабочего процесса вместо того, чтобы относиться к каждой задаче как к одинаково требовательной к вычислениям».

Многоагентные системы могут генерировать непредсказуемые цепочки активности. Вывод одного агента может запустить другого агента, который обращается к внешней системе и производит информацию, инициирующую третью задачу.

Проектирование инфраструктуры под такие паттерны требует от организаций выходить за рамки производительности моделей и учитывать экономику всего агентного рабочего процесса.

От систем учета к системам действия

Более масштабная возможность заключается в том, как эти технологии могут изменить роль самого корпоративного программного обеспечения.

Традиционные SaaS-приложения в основном помогают сотрудникам находить, вводить, организовывать и анализировать информацию. ИИ открывает возможность создания ПО, которое способно интерпретировать эту информацию и участвовать в результирующем агентном процессе.

Представьте себе платформу продаж, которая делает нечто большее, чем просто отображение воронки. Она может выявлять застопорившиеся сделки, расследовать причины задержек, подготавливать рекомендуемые действия и координировать повторные обращения через несколько систем.

Или рассмотрите ИТ-среду, где инцидент запускает последовательность специализированных агентов: один исследует логи, другой оценивает возможные причины, третий проверяет, соответствует ли предлагаемое исправление операционным политикам, а четвертый подготавливает необходимые изменения для утверждения человеком.

В обоих случаях программное обеспечение переходит от фиксации активности к помощи в ее выполнении.

В этом и заключается фундаментальное различие между системой учета и системой действия.

Этот переход не означает исчезновение людей из агентного процесса. Напротив, их роль смещается в сторону надзора, оценки и обработки исключений, в то время как ПО управляет все более сложными последовательностями рутинных действий.

Для корпоративных технологических лидеров это со временем может изменить дизайн SaaS-продуктов. Вместо того чтобы строить приложения только вокруг экранов и форм, разработчики могут все чаще проектировать их вокруг целей, агентов, инструментов, прав доступа и результатов.

Как будет выглядеть корпоративная ИИ-архитектура в будущем

Следующий этап корпоративного ИИ вряд ли будет определяться исключительно тем, какая организация имеет доступ к самой большой языковой модели.

Все чаще конкурентное преимущество будет зависеть от того, что компании создают вокруг этих моделей.

Сложнейшие инженерные вопросы касаются оркестрации, надежности, безопасности, доступа к данным, экономики инфраструктуры и возможности интеграции ИИ в существующие бизнес-процессы без потери контроля.

Взгляд Сваруп на многоагентную архитектуру отражает этот более широкий переход. Важное событие заключается не просто в том, что предприятия могут развертывать несколько ИИ-агентов. А в том, что эти агенты потенциально могут стать компонентами новой программной архитектуры, в которой информация напрямую перетекает в решения, а при надлежащем контроле решения перетекают в действия.

Это формирует иное видение корпоративного SaaS.

Системы прошлого создавались для того, чтобы помнить, что произошло. Появляющиеся сейчас системы могут все в большей степени помогать определять, что произойдет дальше.

Организациям, которые успешно совершат этот переход, потребуется нечто большее, чем просто изощренные модели ИИ. Им понадобится дисциплинированная архитектура, которая балансирует между автономией и надзором, интеллектом и надежностью, инновациями и экономикой инфраструктуры.

Многоагентный ИИ в конечном итоге может оказаться ценным не потому, что он заменяет стек корпоративного ПО, а потому, что он дает этому стеку новый операционный слой, способный превращать статичную информацию в скоординированные действия.