跳到主要内容

A4.1 五种积木：生产系统的乐高说明书

一百个系统，五种形状​

如果你有机会观察一百个真正跑在生产环境里的 LLM 系统——客服机器人、合同审阅、代码评审、报告生成——你会发现一件有趣的事：抛开业务细节，它们的结构翻来覆去就那么几种形状。

2024 年底，Anthropic 的《Building Effective Agents》把这层窗户纸捅破了：五种可组合的积木，覆盖生产系统的绝大多数形态。从此「这块用路由、那块套个评估器」成了行业黑话。逐个认识一下。

① 提示链：流水线工位​

提示链的结构最朴素：固定顺序的多次调用，每步输出喂给下一步，步与步之间还可以加「检查闸门」——中间产物不合格就提前拦截。

  • 类比：工厂流水线，每个工位只拧一颗螺丝。
  • 例子：先从文档提取要点 → 闸门检查要点数量 → 据要点写摘要 → 把摘要翻译成英文。
  • 为什么有效：每一步都比整体任务简单，模型在简单任务上更稳（A2.1 的任务分解，这里是人替模型拆好了）。
  • 何时失灵：步骤其实互相依赖、切不干净——比如「翻译」需要回头改「摘要」的措辞时，硬切成两步反而两头不讨好。

② 路由：医院分诊台​

路由是「先分诊，后处理」：一次分类调用决定输入走哪条专门通道，每条通道用自己的提示词、工具甚至模型。

  • 类比：医院分诊台——头疼去内科、骨折去骨科，没人让一位全科医生什么都看。
  • 例子：客服消息先分成「退款 / 报障 / 闲聊」，各走各的话术与流程；简单问题还可以路由给便宜的小模型，难题才上旗舰模型（2025 年常见的省钱配置）。
  • 何时失灵：类别边界模糊，分诊器自己都拿不准——错误的分诊比不分诊更糟，因为下游的专门通道对「走错门」的输入毫无准备。

③ 并行：分工阅卷与三个医生会诊​

并行有两副面孔：

  • 分片：把任务切成独立的几块同时做——像十个老师分工阅卷，各改各的题；
  • 投票：同一个任务让多路独立做，再汇总或表决——像三个医生分别看片子再会诊，谁也不受谁影响。

例子：一段代码同时交给「安全、性能、风格」三个视角各查一遍再合并（分片）；一道数学题采样五次答案取多数（投票——上篇 8.4 推理模型提过的 self-consistency 就是它）。

何时失灵：子任务其实有依赖（后一块要用前一块的结论，切开就断了线索）；或者「汇总」比子任务本身还难——三份意见互相打架时，合并器成了新瓶颈。

④ 编排者-工人：项目经理带队​

编排者-工人是五块积木里唯一带「运行时决策」的：一个中枢模型现场分析任务、动态拆出子任务清单、派给工人、最后汇总成品。

  • 类比：项目经理接了个新项目，先开会拆活，再派给组员——每个项目拆法都不一样。
  • 和并行的关键区别：并行的「三块」是写代码时就定死的；编排者的子任务是看了任务才知道要拆成几块、拆成什么块。
  • 例子：写一份行业调研报告——具体查哪几个子方向，得先看初步资料才能定。
  • 何时失灵：编排者拆得烂——子任务重叠、遗漏、粒度失当，工人再强也白搭。中枢的规划质量就是全系统的天花板（A2.1 的老话：验收标准要独立于计划）。

⑤ 评估者-优化者：作家与编辑​

评估者-优化者把 A2.2 的反思拆成双角色：一个负责生成，一个负责挑毛病，带着意见循环到达标为止。

  • 类比：作家写稿、编辑退稿——各司其职，比作家自己闷头改更容易看见问题。
  • 例子：翻译初稿 → 审校按「信达雅」打分 → 不到 90 分带意见重写；生成代码 → 跑测试 → 报错回炉。
  • 何时失灵：A2.2 讲过的老问题——没有清晰的「及格线」，或者迭代根本不会变好。评估标准含糊时，这个循环就是在烧 token 原地转圈。

亲手把五块积木摸一遍：

🎮 动手实验
模式拼装台：五种积木与配对挑战
先逛陈列馆：点开每种积木看结构图和适用信号。然后做下面的配对挑战——给 5 个真实场景各选一块最合适的积木。（五模式出自 Anthropic《Building Effective Agents》，2024）
⛓️ 提示链
固定顺序串行：每步的输出是下一步的输入，步间可加检查闸门。
提取要点检查闸门撰写摘要翻译
🧭 适用信号：任务能拆成固定顺序的几步，且每步都比整体更简单（先提纲 → 再成文 → 后翻译）。
🎯 配对挑战（第 1 / 5 题）
客服收到一条消息，可能是退款、报障或闲聊，要交给对应的专门话术处理。
💡 要点：五种积木没有高低之分，只有合不合适。判断口诀两连问：①步骤能不能提前定死？能 → 提示链/路由/并行（三选一看结构）；不能 → 编排者-工人。②产出有没有清晰的「及格线」且改了会变好？有 → 套一层评估者-优化者。积木还能互相嵌套——A5 章的多智能体系统，本质就是把「工人」也换成完整的智能体。

引导实验：先逛陈列馆，把五张结构图看懂；再做 5 题配对挑战。特别留意第 3 题（三视角审代码）和第 4 题（调研报告）的区别——两者都是「多路干活」，但子任务能否预先枚举，正是「并行」和「编排者-工人」的分水岭。

这套分类在哪里不准确？

五模式是从实践中提炼出来的归纳，不是法律。真实系统常常是变体和混血：带重试的链、会降级的路由、编排者手下挂着评估循环……对不上「标准形状」很正常。更重要的告诫是方向：先看任务形状，再选积木——拿着刚学会的锤子找钉子、给简单任务套五层结构，是学完本节最容易犯的病，名字叫过度设计。

小结​

本节要点
  • 五种积木：提示链（固定串行）、路由（先分诊）、并行（分片或投票）、编排者-工人（运行时现拆）、评估者-优化者（生成 + 挑毛病循环）。
  • 前三种的步骤在写代码时定死；编排者-工人是唯一把「拆任务」交给模型现场决定的积木。
  • 每种积木都有失灵条件——选型先看任务形状，别拿着锤子找钉子。
📝 动手自测0/3
1. 「财报电话会录音 → 转写成文字 → 提取关键指标 → 生成一页纪要」，四步固定顺序。这是哪块积木？
2. 让模型把同一道数学题独立做五遍、答案取多数，属于哪种积木的哪种用法？
3. 评估者-优化者循环最容易在什么情况下变成「烧 token 原地转圈」？

延伸阅读​