压缩发生在循环里、模型调用之前,决定这一轮把哪份历史交给模型。
- 十条路线可分四类:无损瘦身(裁剪/外置)、有损替换(摘要/交接)、结构转移(子 agent、持久记忆)、交给 provider(原生压缩 API)。
- 主流收敛在「阈值触发摘要 + 工具结果裁剪 + 保留近期原文」,2026 年起 Anthropic / OpenAI 都把这件事搬进服务端。
- 唯一的分歧是哲学:递归摘要会衰减,Amp 因此取消压缩换
/handoff;而公开 benchmark 又显示摘要几乎不伤分。
是什么
会话历史单调增长,窗口是硬上限。压缩就是在这个上限前重新决定「哪些 token 值得继续占用预算」,输出一份更短、但足以让下一轮接上的历史。
它不管「该取什么进来」——那是检索与工具选择;也不管跨会话记忆——那是持久化。三者常被混谈:
| 相邻概念 | 管哪一段 | 与压缩的关系 |
|---|---|---|
| prompt caching | 同一前缀的单价 | 不省 token;重写历史会让缓存失效 |
| 检索 / RAG | 下一轮取哪些外部内容进来 | 压缩管「留下的」,检索管「新进的」 |
| 长期记忆 / 落盘 | 跨会话、跨任务的复用 | 压缩的常见副产品(摘要转存) |
| 子 agent / 新会话 | 把工作量挪出主上下文 | 不是压缩,是避免产生要压的内容 |
使用方式
按「丢了什么、谁来丢」分四类,一行一种形态。
一、无损瘦身:不动语义,只动体积
| 方式 | 差异 | 何时选 |
|---|---|---|
| 硬截断 / 滑窗 | 直接丢最旧消息,零成本、零延迟,中间步骤彻底消失 | 兜底;truncation: "auto" 这类开关 |
| 工具结果替换为占位符 | 旧 tool_result 换成「已省略 N 行」,轨迹结构仍在 | 长会话每轮跑,成本几乎为零 |
| 超大输出落盘 + 引用 | 完整内容写文件,上下文只留路径与摘要,需要时再读 | 日志、构建输出、整文件读取 |
| thinking / reasoning 清理 | 清掉旧推理块,保留结论;受签名与原样回传约束时不能清 | 推理块占大头且 provider 允许时 |
Claude Code 的 microcompact、DSH 的 tool-result-pruner、Cursor 的「长工具响应转文件」都是这一层;它解决的问题是单条结果吃掉预算,而不是历史总量。
二、有损替换:用模型重写历史
| 方式 | 差异 | 何时选 |
|---|---|---|
| 阈值触发摘要 | 越线时一次调用把历史压成一段,替换压缩点之前的全部内容 | 默认首选,工业界最普遍 |
| 增量 / 递归摘要 | 新摘要与旧摘要再合并,形成「摘要的摘要」 | 超长会话;代价是早期推理被二次失真 |
| 结构化摘要 | 按固定字段写(目标、已完成、待办、关键文件、失败测试) | 需要可读、可人工修正时 |
| 交接式新会话 | 不做压缩,起新线程并只带人工可审的要点 | 长会话本来就该换任务时(Amp /handoff) |
| 模型自主触发 | 不设阈值,给模型一个 condense 工具自己决定 | 想让压缩时机跟随语义而非计数(Cline) |
摘要的工程质量集中在三点:压缩后保留最近若干条原文(Claude Code 还会重读最近 5 个文件)、压缩调用本身有输入上限(Codex COMPACT_USER_MESSAGE_MAX_TOKENS = 20_000)、以及工具调用与结果必须成对保留,否则下一轮直接 400。
三、结构转移:不压,而是不放进主上下文
| 方式 | 差异 | 何时选 |
|---|---|---|
| 子 agent 隔离 | 探索过程留在子上下文,主循环只收一段结论 | 搜索、批处理、可并行调研 |
| 持久记忆块 | 把稳定事实写进可编辑的记忆区,历史随之可弃 | 跨轮次事实(约定、偏好、环境) |
| 外置计划 / TODO | 进度存在文件里而不是对话里,每轮重新注入 | 长任务;也是压缩后的恢复锚点 |
| 空转整理 | 主 agent 空闲时后台模型整理记忆(Letta sleep-time) | 有常驻会话、愿意多花一次推理 |
这一类的共同点:压缩的替代品是「让上下文本来就不该那么大」,代价是状态分散在外部、需要重新注入的机制。
四、交给 provider:服务端压缩
| 方式 | 差异 | 何时选 |
|---|---|---|
| 服务端清工具结果 | Anthropic clear_tool_uses_20250919,按 token 或工具次数触发,可 exclude_tools | 不想自己实现裁剪 |
| 服务端摘要 | Anthropic compact beta(compact_20260112 / compact-2026-09-04)、OpenAI context_management.compact_threshold | 希望压缩与缓存、计费在同一侧结算 |
| 独立压缩端点 | OpenAI responses.compact,回合之间单独调用并改写会话历史 | 会话状态存在服务端时 |
| 自动丢弃 | OpenAI Responses truncation: "auto",超限丢最旧项,不报错 | 只要不失败,不在乎丢什么 |
Anthropic 侧同时提供 memory 工具(服务端记忆目录)与 client-side compaction(SDK 里跑摘要),等于把第三类和第二类也收进 API。服务端方案省实现,代价是不可控:摘要不可读、压缩策略随版本变动、历史被 provider 重写后本地再想回溯就难了。
# OpenAI Responses:服务端压缩
context_management: [{ type: "compaction", compact_threshold: 120000 }]
谁在用哪种
| 系统 | 触发 | 主体动作 | 特征 |
|---|---|---|---|
| Claude Code | 每轮 / 公式阈值 / 413 | 工具结果占位 → 模型摘要 → 重试 | 三层并列,阈值是公式不是百分比 |
| Codex CLI | 窗口 90% | 摘要替换历史,可异步或远端执行 | 压缩可后台跑 |
| opencode | /compact 或 token 压力 | Session.compact 排进 inbox 再执行 | 压缩是一个排队任务 |
| DSH | 压缩前 / token 压力 / 413 | 先裁工具结果,再摘要最旧历史 | 裁剪与摘要拆成两个插件 |
| Cursor | 窗口满 | 摘要前先把完整对话写文件,摘要后可查回 | 摘要 + 可回溯原文 |
| OpenHands | 事件条数(默认 max_size=100) | Condenser 插件,默认 LLMSummarizingCondenser | 十种策略可换,agent 可主动要求压 |
| Cline | 模型判断 | condense 工具 | 触发权交给模型 |
| Gemini CLI | 窗口 70%(二手来源) | 摘要较早对话 | 更大窗口降低触发频率 |
| Amp | 不压缩 | /handoff 起新线程,人可编辑要点 | 明确放弃递归摘要 |
| 框架层 | token 阈值 | LangChain SummarizationMiddleware、pydantic-ai profile | 把压缩做成中间件/能力探测 |
一份 2026 年的十一系统源码研究给出的判断是:七个系统采用阈值触发的 LLM 摘要,并且越来越多地做增量合并;压缩设计已经收敛,剩下的是实现细节差异。
已验证
本机实测
本轮未跑真实长会话,只做了资料与既有源码拆解的交叉核对;下面两组是替代证据。
官方文档确认
- Anthropic 的上下文管理分三档:
clear_tool_uses_20250919(服务端清工具结果)、clear_thinking(清推理块)、compact(摘要替换),beta 头分别是context-management-2025-06-27与compact-2026-01-12。 - OpenAI Responses 的服务端压缩通过
context_management的compact_threshold开启,流式响应越线即触发压缩并产出不可读的 compaction 项;另有responses.compact端点供回合间调用。truncation: "auto"是独立的丢弃式兜底。 - LangChain
SummarizationMiddleware的行为可作参考实现:阈值触发、保留近期消息、强制 AI/tool 消息成对、摘要输入本身也有 token 上限。
未验证
- Claude Code 的阈值公式与三层边界来自泄露构建的逆向,换版本需重核;Codex 的文件与行号对应某个具体 commit。
- Gemini CLI 70%、OpenHands
max_size=100等数字来自二手整理,未读对应版本源码。 - Amp 取消压缩的动因(递归摘要导致性能衰减)来自其公开说明与媒体报道,未拿到内部数据。
路径
| 路径 | 要做的事 | 状态 | 产出 |
|---|---|---|---|
| 读单产品实现 | 从源码还原触发条件、摘要范围与恢复动作 | 已落地 | Claude Code 的查询循环、工具面与三层压缩 |
| 同上 | 读 Rust 源码与 compact crate | 已落地 | Codex CLI 的 turn 循环、沙箱审批与自动压缩 |
| 同上 | 从二进制符号还原会话与压缩状态机 | 已落地 | opencode 的会话循环、inbox 调度与压缩 |
| 同上 | 读插件图与 profile 组合 | 已落地 | DeepSeek Harness 的插件图、goal 续跑与压缩 |
| 接 provider 原生压缩 | 在自研 harness 上开 compact_threshold,对比自实现 | 未开始 | — |
| 自建两层压缩 | 工具结果占位 + 阈值摘要,跑一次真实长会话 | 未开始 | — |
| 累积衰减观测 | 连续压缩 3 次以上,检查早期约束是否还在 | 未开始 | — |
| 交接式会话 | 用可编辑要点起新线程,替代摘要 | 未开始 | — |
待你决定
- 压缩放哪一侧:服务端省实现但不可控、摘要不可读;自实现可控但要做成对保留、缓存失效、413 重试这三件脏活。要可回溯就选自实现 + 历史落盘。
- 摘要还是交接:前者自动、能连续跑;后者质量高但要人参与。长任务用摘要,任务已经完成一半要换方向时用交接。
- 是否保留全量历史:留盘可查回,但带来存储与敏感信息问题;不留盘就要接受摘要即真相。
参考
- https://platform.claude.com/docs/en/build-with-claude/context-editing
- https://platform.claude.com/docs/en/build-with-claude/compaction-threshold
- https://developers.openai.com/api/docs/guides/compaction
- https://cursor.com/blog/dynamic-context-discovery
- https://arxiv.org/abs/2609.00006 Harness Engineering:十一系统源码分类,含压缩收敛结论
- https://arxiv.org/abs/2610.31778 Benchmarks Are Surprisingly Compaction-Friendly:压缩方法对比,未发现优于默认自摘要
- https://arxiv.org/abs/2604.03515 Inside the Scaffold:压缩触发方式的源码分类