Оркестрация ИИ

Оркестрация ИИ — управление порядком шагов, ветвлениями, повторами, состоянием и условиями завершения в процессе, где часть шагов выполняет языковая модель. Оркестратор хранит состояние процесса вне отдельного запроса к модели и делает поведение воспроизводимым, наблюдаемым и устойчивым к сбоям.

Чем отличается от наивного варианта: «обёртка над моделью» — это один запрос без состояния, вся логика спрятана в один разрастающийся промпт, и объяснить постфактум, почему система ответила именно так, нельзя. В оркестрации состояние и переходы между шагами заданы явно, у каждого шага есть контракт, а на критичных точках предусмотрена передача человеку.

Почему это важно: именно наличие явного состояния и трассируемых переходов отличает систему, которой можно доверить операции и которую можно отладить через год, от демо, которое работает до первого нестандартного случая.