Одна задача, несколько моделей: как выбрать оркестрацию

В NC AgentOS в настройках агента можно выбрать несколько моделей и координатора. Практический смысл — распределить подготовку и проверку материалов по понятному процессу.

Подбирайте режим к вопросу

• Параллельно: получить независимые варианты и свести их координатором.
• Цепочка: последовательно развить материал, передавая результат следующему участнику.
• Автор, критик и редактор: отдельно подготовить, проверить и отредактировать ответ; нужно не менее трёх моделей.
• Голосование: получить итог при абсолютном большинстве. Согласие моделей само по себе не доказывает истинность.
• Маршрутизация: выбрать подходящую модель для задачи.
• Резерв: при временной недоступности переходить к следующему участнику по порядку.

Сначала критерии, затем состав

Для сравнения вариантов заранее определите полноту, точность, источники, стоимость и время. Начните с небольшого состава, выполните несколько контрольных задач и только затем добавляйте участников. Большее число вызовов увеличивает затраты и может дублировать ошибки.

Границы применения

В исследованной версии участники API-оркестрации в основном работают с текстом. Возможности инструментов основного агента не следует автоматически приписывать каждому участнику. Нужны совместимые подключения, ключи и лимиты провайдеров. Посмотрите интерактивную схему или обсудите состав пилота с командой.