Skip to content

版本 2：Router、Parallel 与 Evaluator

在不放弃确定性的前提下提升适配能力、速度和质量。

它解决什么问题

基线暴露三个瓶颈：不同报告类型需要不同模板，独立来源串行检索太慢，草稿质量只能人工发现。Router、Parallel 和 Evaluator 分别解决适配、时延和质量反馈，不需要开放式 Agent 循环。

核心定义与工作原理

Router 根据请求类型选择市场、竞品或风险流程；Parallel 同时运行行业、公司和政策检索；Reducer 去重并解决来源冲突；Evaluator 按覆盖、证据、时效和表达评分，最多触发一次定向改写。所有分支仍由代码控制。

架构视图（Architecture View）

分析时固定追问：谁拥有控制权，状态存在哪里，模型能决定什么，失败从哪里恢复，人工在哪个边界介入，运行证据如何被观察。

产品视图（Product View）

产品可以展示“正在并行检索 3 类来源”和质量检查结果。比较升级前后的 P95 时延、路由准确率、部分成功率、返工率、来源重复率及新增调用成本。

简单实践

在版本 1 图上增加三类节点。定义 Router 的互斥标签、并行分支的结果契约、合并规则与四项评分 rubric；推演某个来源超时和评分不足两条路径。

实践只要求架构图、状态或消息契约、失败路径和产品指标，不要求安装依赖或运行代码。

正常场景

任务按约定入口进入，编排层保留业务状态，各节点或 Agent 产出结构化结果，质量门控制下一阶段，用户获得可理解的进度与最终产物。

失败与恢复场景

模型超时、工具失败或子任务质量不足时，区分可重试、可降级和必须人工接管的错误。恢复应依赖业务状态或检查点，而不是把整段任务盲目重跑。

什么时候使用

  • 核心抽象与任务形态一致。
  • 团队能运维它的状态、观测和升级路径。
  • 能满足审批、权限、恢复与成本约束。

什么时候不要使用

分支很少或外部服务有严格并发限制时，并行收益可能不抵成本。Evaluator 没有可靠标准时会引入额外随机性，不能把“模型说合格”当成事实验证。

Trade-offs

获得 代价
更清晰地表达目标架构 增加建模和治理成本
复用运行与生态能力 接受版本、依赖和迁移成本
提升自主性或协作能力 增加时延、成本与故障面

产品视角

  • 用户与业务问题：解决哪个可量化瓶颈？
  • 产品价值：提升成功率、速度、可控性还是覆盖范围？
  • 用户体验：进度、等待、切换和失败是否可理解？
  • 自主性边界：哪些判断交给模型，哪些由代码或人决定？
  • 数据与权限：状态、敏感数据和工具权限如何隔离？
  • 失败与降级：能否重试、续跑、切回简单流程或人工处理？
  • 产品指标：完成率、P95 时延、单任务成本、人工介入率、恢复成功率。

框架中的对应实现

Router、fan-out/fan-in、Evaluator–Optimizer；可由 DAG、图框架或普通异步代码实现。

Workflow、Graph Orchestration、Supervisor、Handoff、Context Isolation、HITL、Durable Execution、Evals。

检查清单

  • [ ] 产品约束先于实现选择
  • [ ] 区分代码控制与模型控制
  • [ ] 明确状态事实源、预算和恢复点
  • [ ] 覆盖权限、审计和可观测性
  • [ ] 记录组织成本与退出方案

延伸练习与参考资料

用同一产品场景改画另一种架构，比较运行语义而非 API 长短；继续阅读对应框架的官方架构、持久化、HITL 与观测文档。