Thread-of-Thought
Thread-of-Thought(ThoT)Prompting(Zhou et al., 2023)的要点是:它不只是让模型“逐步推理”,而是让模型在处理长上下文/大段材料时采用一种更可控的节奏——分块阅读 → 每块做小结(summary)→ 同步分析(analysis)→ 最后综合回答。
它可以被看作是对传统 CoT 触发语(如 “Let’s think step by step”)的升级版“思维诱导器(thought inducer)”,更强调“按可管理的部分(manageable parts)”推进,特别适合长文 QA、RAG、证据聚合、以及多段材料之间的对齐。
1) 解决什么问题(为什么比普通 CoT 更适合长上下文)
在长上下文里,直接 CoT 常见问题是:
- 读到后面忘了前面(信息衰减)
- 抓不住重点,被细节淹没
- 引用/证据对应不上(“说了但找不到在哪一段”)
- 多文档冲突时没法逐步对齐与消解
ThoT 通过“分块 + 滚动总结”把上下文压缩成一条可维护的“线索线程(thread)”,边读边维护“到目前为止我掌握了什么、还缺什么”。
2) 核心提示语(论文中那句)
你给的句子就是 ThoT 的典型 thought inducer:
“Walk me through this context in manageable parts step by step, summarizing and analyzing as we go.”
对比:
- CoT:强调“推理步骤”
- ThoT:强调“上下文走读 + 每步总结/分析 + 可管理分块”,因此对“长材料理解与证据整合”更直接。
3) ThoT 的常用 Prompt 模板
模板 A:长上下文 QA(分块走读 → 综合作答)
你将使用 Thread-of-Thought(ThoT)来回答问题。
请把上下文分成若干“可管理部分”,逐部分进行:
- Summary:用 1-3 句总结该部分关键信息
- Analysis:说明该部分与问题的关系(支持/反驳/补充/无关)
处理完全部部分后:- Synthesis:汇总所有部分的证据,给出最终答案;如有冲突,说明如何取舍。
问题:{question}
上下文:{context}
模板 B:RAG/检索场景(对多段证据逐段“滚动对齐”)
你将看到多条检索证据(chunks)。
对每条证据按以下格式输出:
- chunk_id
- summary(要点)
- relevance(与问题相关性:high/medium/low)
- contribution(它回答了问题的哪一部分)
最后输出 final_answer,并列出使用了哪些 chunk_id 作为依据。
模板 C:更工程化的“滚动记忆”(累积要点)
按顺序处理每个段落。对第 i 段输出:
- delta_summary:本段新增的关键信息(不重复旧信息)
- delta_analysis:对问题的新增贡献
- updated_notes:到目前为止的要点列表(<=8 条)
最后用 updated_notes 回答问题。
这种写法特别适合“上下文很长但输出要短”的系统:你把 updated_notes 当作可控的中间状态。
4) 例子(简化示意)
问题:公司为什么在 Q3 下调收入指引?
上下文:一篇很长的财报电话会纪要(多段)。
ThoT 会像这样走:
- Part 1 Summary:宏观环境变弱、客户推迟采购
Analysis:与“下调指引原因”直接相关(需求侧) - Part 2 Summary:供应链改善但库存偏高
Analysis:可能导致去库存周期、影响短期出货(供给/渠道) - Part 3 Summary:汇率波动与某地区监管变化
Analysis:影响海外收入换算与市场准入(外部因素) - Synthesis:综合给出 2-3 个主因,并指出证据来自哪些段落
5) 使用建议与注意事项
- 分块粒度要合适:太大→退化成普通 CoT;太小→成本高且碎片化。常见做法是按段落/检索 chunk(如 300–800 tokens)处理。
- 强制“总结 + 关联问题”:只总结不分析,容易变成复述;只分析不总结,容易漏信息。
- 对冲突证据要有策略:可以要求模型在 synthesis 里标注冲突并给出取舍规则(时间更新更晚的优先、来源更权威的优先等)。
- 和“引用”天然兼容:ThoT 很适合在每个 part 标出证据位置,降低“编造引用”。
6) 和其他方法的关系(快速对比)
- ThoT vs CoT:ThoT 更偏“阅读理解与证据管理”;CoT 更偏“推理步骤展开”。
- ThoT vs RE2:RE2 是“再读一遍问题”防漏条件;ThoT 是“分块走读上下文”防漏证据。
- ThoT vs Self-Ask:Self-Ask 是“拆子问题”;ThoT 是“拆上下文并滚动总结”。两者可组合:先 Self-Ask 定子问题,再对每个子问题用 ThoT 读证据。
如果你希望我“继续下一条技术”总结,请把下一段原文贴出来即可;或者告诉我你是在做 RAG 检索问答 还是 长文档阅读 QA,我也可以给你一份更贴合场景的 ThoT 提示词模板(含 chunk 格式、引用格式、输出长度约束)。