инженерные заметки
Оркестрация ИИ-агентов в бизнес-процессах
Что такое оркестрация ИИ-агентов: как связать агентов, инструменты и людей в управляемый бизнес-процесс с контролем стоимости.
Коротко для руководителя. Управляемость и стоимость ИИ-процесса задаются не выбором модели, а слоем оркестрации — тем, как агенты, инструменты и люди связаны в один процесс. Ценность ИИ для компании в большой степени в том, что он снимает координацию: распределение задач, сведение данных, контроль статусов, на которые сейчас уходит значимая часть рабочей недели. Оркестрация — это то, что превращает набор агентов в предсказуемый по стоимости и контролю процесс.
«Оркестрация» звучит технически, но за ней стоит вполне управленческий вопрос: кто и по каким правилам соединяет работу нескольких агентов, инструментов и людей в один процесс — и можно ли этим процессом управлять. Разберём.
Ценность — в оркестрации. Модель — сменный примитив.
Гипотеза: ценность в оркестрации, модель — сменный примитив
В работающей ИИ-системе модель — это заменяемый компонент на конкретном шаге. То, что создаёт ценность и определяет стоимость, лежит вокруг неё: маршрутизация шагов, состояние, обработка сбоев, передача человеку. Это и есть оркестрация. Поэтому «какую модель взять» — не главный вопрос проекта; главный — как устроен процесс над моделями.
Почти половина недели уходит не на саму работу, а на её координацию и поиск контекста. Внутренний поиск по знаниям сокращает это время до трети — именно сюда и встраивается ИИ-слой.
Почти половина недели сотрудника уходит не на саму работу, а на её координацию и поиск контекста. Именно в этот слой и встраивается оркестрация — она снимает координационную нагрузку, а не «отвечает на вопросы».
Проблема: «оркестратор» сводят к циклу вызовов модели
Частая картина: оркестратор — это цикл, который зовёт модель, передаёт её ответ следующему вызову и так по кругу. У такого «оркестратора» нет состояния, нет маршрутизации по результату, нет обработки сбоев. Он работает на демонстрации и становится неуправляемым на реальном потоке: стоимость не предсказуема, поведение не воспроизводимо, отладка невозможна.
Почему обычные подходы не работают
Цикл вызовов без состояния не масштабируется на процессы из многих шагов: каждый ответ существует сам по себе, процесс не помнит, что уже сделано.
Маршрутизация «моделью на каждом шаге свободным рассуждением» делает систему непредсказуемой по стоимости и поведению: одно и то же на входе может пойти разными путями.
Единая сильная модель «на всё» неоправданно дорога: большинство шагов (классификация, извлечение, короткие переформулировки) не требуют сильной модели, но платится за неё везде.
Инженерная модель: слой оркестрации
Маршрутизация по результату шага. Следующий шаг выбирается по типизированному выходу предыдущего, а не по свободному рассуждению. Маршрут воспроизводим и тестируем.
Состояние процесса. Задача живёт дольше одного вызова: видно, что сделано, что осталось, какие данные получены. Это основа многошаговых процессов и идемпотентности.
Модель под шаг. Решение о модели — функция шага: риск, требуемое качество, задержка. Рутинные шаги — на дешёвой быстрой модели, дорогие решения — на сильной. Это снимает основную часть расхода без потери качества там, где оно не требовалось.
Передача человеку как шаг процесса. Дорогие и неуверенные решения штатно уходят человеку с собранным контекстом — это спроектированная граница, а не сбой.
Наблюдаемость по шагам. Стоимость, задержка и доля ошибок собираются по каждому шагу. Без этого «система дорогая» нельзя превратить в «шаг X дороже из-за Y».
По данным IDC, из 33 запущенных пилотов до промышленной эксплуатации доходят около 4. Причина провала — не технология, а недооценённая сложность доведения до процесса.
Большинство пилотов не доходят до прода именно потому, что собран цикл вызовов, а не управляемый процесс: его нельзя ни предсказать по стоимости, ни отладить, ни довести до SLA.
Практический вывод для бизнеса
Оркестрация — это то, что вы покупаете, а не модель. Спросите: как выбирается следующий шаг; фиксируется ли состояние; разные ли модели на разных шагах; где процесс передаёт человеку; как видно стоимость по шагам. Конкретные ответы означают управляемый процесс; их отсутствие — неуправляемый расход.
Эффект считается по снятой координации. Распределение задач, сведение данных, контроль статусов — это измеримая нагрузка, и именно её снижение, а не «внедрение ИИ», обосновывает бюджет.
Приложить это к вашим процессам — .
Открытые вопросы
Централизованный оркестратор или событийная хореография — выбор зависит от процесса и требований к отказоустойчивости. Насколько дробить шаги для маршрутизации модели — компромисс между экономией и сложностью. Где предел автоматической координации без человека — определяется ценой ошибки в конкретном процессе.
Если в вашем процессе люди в основном координируют — распределяют, сводят, следят за статусами, — это прямой кандидат на оркестрацию. — разберём шаги, маршрутизацию и где проходят границы передачи человеку.