如果把单次 CoT 看作一条候选路径,ToT 则把问题表示为可扩展、可评估的候选状态树。它会探索多条路径、保留有希望的分支,并剪去较差分支。
一、思维链(CoT)的局限性
CoT 通过”一步一步思考”引导 AI 沿着一条线性的路径进行推理,在大多数情况下很有效。但如果,这条线索从一开始就走偏了呢?
想象一下这个场景:你是书店老板,经营困难,需要 AI 帮你设计一个周末引流活动。
CoT 的做法——单一路径:
你是一位经验丰富的营销专家。我有一家经营困难的实体书店,
请帮我设计一个周末引流活动方案。请一步一步地思考,并给出一个完整的计划。
CoT 可能的输出:
好的,我们来一步步规划:
1. 确定活动主题:我们可以做一个"全场图书8折"的促销活动。
2. 宣传方式:在店门口贴海报,并发放传单。
3. 活动准备:准备好打折标签和宣传物料。
4. 活动执行:周末两天执行打折活动。
最终方案:周末全场图书8折促销。
这个方案可行,但非常普通,缺乏创意。CoT 的”实习生”接到任务后说:“好的老板,我按这个思路,第一步做 A,第二步做 B,第三步做 C,这是结果。“——它没有考虑过是否还有更好的路。
单次 CoT 的常见局限:
- 它通常只给出一条候选路径,早期假设出错会影响后续结果。
- 单次调用缺少显式的候选比较和验证机制。
- 对开放性任务,可增加候选方案、评价标准和人工判断;不必把所有这类任务都称为 ToT。
二、什么是思维树(ToT)?
核心概念
思维树(Tree of Thoughts,简称 ToT) 是一种有意搜索的推理框架。它的核心思想是:
在每一个关键的”岔路口”,停下来,生成多个候选方案,评估它们,选择最优的继续前进。
ToT 的”实习生团队” 会这样工作:
“老板,针对您的问题,我们团队在第一步同时想出了方案 A、B、C。我们快速评估了一下,发现方案 A 可能成本太高,方案 C 和我们的目标不太相关。所以我们决定,集中精力沿着方案 B 这条路继续深入探索下去,并在下一步再进行同样的比较和选择。”
工作原理
ToT 的核心是一个循环过程:“生成候选状态 → 评估 → 扩展有希望的分支 → 剪枝或回溯”。
它将一个问题分解成多个思考步骤,并在每一步中:
- 生成(Generate):生成多个独立的”想法”或”中间步骤”(Thoughts)。
- 评估(Evaluate):对这些想法进行评价和打分,判断它们的价值和可行性。
- 搜索(Search):保留有希望的状态,按策略扩展、回溯或剪枝,而不只是在一次对话中选一个方案。
这个过程就像从树根开始,不断生长出新的分枝,同时剪掉那些看起来不会结果的”枯枝”,最终找到通往树顶最茂盛果实的那条路径。
三、实战对比:同一个问题,CoT vs ToT
回到书店引流活动的案例。下面是一种受 ToT 启发的多方案决策工作流:它适合日常协作,但不等同于论文中完整的树搜索实现。
第 1 轮 —— 生成初始想法:
你是一位经验丰富的营销专家。我有一家经营困难的实体书店,
需要一个周末引流活动。请首先构思出 3 个完全不同方向的活动初步想法,
并分别用一句话概括。
ToT 可能的输出:
想法 A(促销导向):举办大力度的"购书满减"或"会员日折扣"活动。
想法 B(体验导向):举办一场"与本地作家面对面"的签售分享会。
想法 C(社区导向):发起一个"旧书换绿植"的环保主题社区活动。
第 2 轮 —— 评估与选择:
很好。现在,请你分析这三个想法的优缺点,
并从"创意性""执行成本""长期吸引力"三个维度,
为它们打分(满分 5 分),并解释为什么。
最后,告诉我你最推荐哪一个。
ToT 可能的输出:
想法 A(促销导向):
- 创意性:2 分——非常传统,缺乏新意。
- 执行成本:4 分——只需调整价格和制作海报。
- 长期吸引力:2 分——打折结束,客流就散。
综合推荐度:一般。
想法 B(体验导向):
- 创意性:4 分——作家面对面很有吸引力。
- 执行成本:2 分——需要联系嘉宾、布置场地、协调时间。
- 长期吸引力:3 分——能留住一些对文学感兴趣的客人。
综合推荐度:不错,但实施门槛较高。
想法 C(社区导向):
- 创意性:5 分——旧书换绿植,新颖且有环保理念。
- 执行成本:3 分——需要采购绿植和宣传物料。
- 长期吸引力:5 分——建立社区联系,可能形成持续的口碑传播。
综合推荐度:最优!
我最推荐想法 C(社区导向),因为它最有创意,能建立长期客户关系。
第 3 轮 —— 深化最优解:
同意。那我们就聚焦在"旧书换绿植"这个想法上。
现在,请为这个活动设计一个详细的、可执行的步骤方案,
包括前期宣传、活动流程、物料准备和成本预估。
通过这三轮对话,工作流产出了一个经过多方向比较的方案。它未必天然优于单次 CoT:结果仍取决于评价标准、成本约束和人工复核。
四、CoT 与 ToT 核心对比
| 特性 | 思维链(CoT) | 思维树(ToT) |
|---|---|---|
| 核心比喻 | 一条链条,线性思维 | 一棵大树,发散与收敛 |
| 思考过程 | 单一路径的深度推理 | 多路径的广度探索,择优深入 |
| 解决问题方式 | 通常生成一条候选推理过程 | 显式搜索多个候选状态,按评价扩展、剪枝或回溯 |
| 自我修正能力 | 取决于是否加入复核、采样或工具验证 | 可通过搜索与外部评估实现,但评价器本身也需要验证 |
| 适用场景 | 有明确答案、逻辑清晰的问题(数学计算、代码解释、步骤规划) | 开放性、探索性、创造性问题(策略制定、创意写作、复杂规划) |
| 操作复杂度 | 简单,通常一个提示词即可 | 较复杂,需要状态表示、搜索策略和可靠的评估器;多轮对话只是简化近似 |
| Token 消耗 | 少 | 多(多次对话 + 多分支探索) |
五、什么时候用 ToT?
ToT 不是日常 Prompt 的标配——它的成本(多轮对话、Token 消耗)比 CoT 高得多。以下场景适合使用 ToT:
- 策略制定:需要从多个角度思考的决策问题
- 创意写作:需要探索不同风格、不同方向
- 复杂规划:活动策划、项目方案、商业计划
- 多方案比较:需要在不同方案间做权衡取舍
如果你的任务有明确答案、逻辑路径清晰,CoT 就够了。CoT 主打深度,ToT 主打广度。
小结
- 单次 CoT 通常给出一条路径;ToT 显式搜索并管理多个候选状态。
- ToT 的工作循环:生成 → 评估 → 扩展 / 剪枝 / 回溯。
- ToT 特别适合开放性、创造性任务,但操作成本和 Token 消耗更高。
- 实用法则:简单/明确的推理用 CoT,复杂/开放性的决策用 ToT。
下一篇,我们将学习如何把一个”大项目”拆成一串”小任务”——复杂任务拆解(Task Decomposition),让你像项目经理一样驾驭 AI。