探索
探索11 分钟阅读

Agent 会话上下文压缩的方式与业界选型

压缩是「窗口将满时决定丢掉、替换还是外置哪些 token」;主流做法已收敛为「工具输出裁剪 + 阈值触发的 LLM 摘要 + 保留近期原文」,分歧在压缩放客户端还是服务端、摘要能否回溯、以及要不要干脆改成交接式新会话(Amp);单产品源码级证据见四篇拆解。

探索地图:路径与状态。 本文是路线图不是结论:它说明对象是什么、有哪几条路、每条走到哪一步;已落地的结论会链到经验或知识文章。地图里未落地的判断仍可能变,引用前请先复核。

压缩发生在循环里、模型调用之前,决定这一轮把哪份历史交给模型。

  • 十条路线可分四类:无损瘦身(裁剪/外置)、有损替换(摘要/交接)、结构转移(子 agent、持久记忆)、交给 provider(原生压缩 API)。
  • 主流收敛在「阈值触发摘要 + 工具结果裁剪 + 保留近期原文」,2026 年起 Anthropic / OpenAI 都把这件事搬进服务端。
  • 唯一的分歧是哲学:递归摘要会衰减,Amp 因此取消压缩换 /handoff;而公开 benchmark 又显示摘要几乎不伤分。

是什么

会话历史单调增长,窗口是硬上限。压缩就是在这个上限前重新决定「哪些 token 值得继续占用预算」,输出一份更短、但足以让下一轮接上的历史。

它不管「该取什么进来」——那是检索与工具选择;也不管跨会话记忆——那是持久化。三者常被混谈:

相邻概念管哪一段与压缩的关系
prompt caching同一前缀的单价不省 token;重写历史会让缓存失效
检索 / RAG下一轮取哪些外部内容进来压缩管「留下的」,检索管「新进的」
长期记忆 / 落盘跨会话、跨任务的复用压缩的常见副产品(摘要转存)
子 agent / 新会话把工作量挪出主上下文不是压缩,是避免产生要压的内容

使用方式

按「丢了什么、谁来丢」分四类,一行一种形态。

一、无损瘦身:不动语义,只动体积

方式差异何时选
硬截断 / 滑窗直接丢最旧消息,零成本、零延迟,中间步骤彻底消失兜底;truncation: "auto" 这类开关
工具结果替换为占位符旧 tool_result 换成「已省略 N 行」,轨迹结构仍在长会话每轮跑,成本几乎为零
超大输出落盘 + 引用完整内容写文件,上下文只留路径与摘要,需要时再读日志、构建输出、整文件读取
thinking / reasoning 清理清掉旧推理块,保留结论;受签名与原样回传约束时不能清推理块占大头且 provider 允许时

Claude Code 的 microcompact、DSH 的 tool-result-pruner、Cursor 的「长工具响应转文件」都是这一层;它解决的问题是单条结果吃掉预算,而不是历史总量。

二、有损替换:用模型重写历史

方式差异何时选
阈值触发摘要越线时一次调用把历史压成一段,替换压缩点之前的全部内容默认首选,工业界最普遍
增量 / 递归摘要新摘要与旧摘要再合并,形成「摘要的摘要」超长会话;代价是早期推理被二次失真
结构化摘要按固定字段写(目标、已完成、待办、关键文件、失败测试)需要可读、可人工修正时
交接式新会话不做压缩,起新线程并只带人工可审的要点长会话本来就该换任务时(Amp /handoff)
模型自主触发不设阈值,给模型一个 condense 工具自己决定想让压缩时机跟随语义而非计数(Cline)

摘要的工程质量集中在三点:压缩后保留最近若干条原文(Claude Code 还会重读最近 5 个文件)、压缩调用本身有输入上限(Codex COMPACT_USER_MESSAGE_MAX_TOKENS = 20_000)、以及工具调用与结果必须成对保留,否则下一轮直接 400。

三、结构转移:不压,而是不放进主上下文

方式差异何时选
子 agent 隔离探索过程留在子上下文,主循环只收一段结论搜索、批处理、可并行调研
持久记忆块把稳定事实写进可编辑的记忆区,历史随之可弃跨轮次事实(约定、偏好、环境)
外置计划 / TODO进度存在文件里而不是对话里,每轮重新注入长任务;也是压缩后的恢复锚点
空转整理主 agent 空闲时后台模型整理记忆(Letta sleep-time)有常驻会话、愿意多花一次推理

这一类的共同点:压缩的替代品是「让上下文本来就不该那么大」,代价是状态分散在外部、需要重新注入的机制。

四、交给 provider:服务端压缩

方式差异何时选
服务端清工具结果Anthropic clear_tool_uses_20250919,按 token 或工具次数触发,可 exclude_tools不想自己实现裁剪
服务端摘要Anthropic compact beta(compact_20260112 / compact-2026-09-04)、OpenAI context_management.compact_threshold希望压缩与缓存、计费在同一侧结算
独立压缩端点OpenAI responses.compact,回合之间单独调用并改写会话历史会话状态存在服务端时
自动丢弃OpenAI Responses truncation: "auto",超限丢最旧项,不报错只要不失败,不在乎丢什么

Anthropic 侧同时提供 memory 工具(服务端记忆目录)与 client-side compaction(SDK 里跑摘要),等于把第三类和第二类也收进 API。服务端方案省实现,代价是不可控:摘要不可读、压缩策略随版本变动、历史被 provider 重写后本地再想回溯就难了。

text
# OpenAI Responses:服务端压缩
context_management: [{ type: "compaction", compact_threshold: 120000 }]

谁在用哪种

系统触发主体动作特征
Claude Code每轮 / 公式阈值 / 413工具结果占位 → 模型摘要 → 重试三层并列,阈值是公式不是百分比
Codex CLI窗口 90%摘要替换历史,可异步或远端执行压缩可后台跑
opencode/compact 或 token 压力Session.compact 排进 inbox 再执行压缩是一个排队任务
DSH压缩前 / token 压力 / 413先裁工具结果,再摘要最旧历史裁剪与摘要拆成两个插件
Cursor窗口满摘要前先把完整对话写文件,摘要后可查回摘要 + 可回溯原文
OpenHands事件条数(默认 max_size=100)Condenser 插件,默认 LLMSummarizingCondenser十种策略可换,agent 可主动要求压
Cline模型判断condense 工具触发权交给模型
Gemini CLI窗口 70%(二手来源)摘要较早对话更大窗口降低触发频率
Amp不压缩/handoff 起新线程,人可编辑要点明确放弃递归摘要
框架层token 阈值LangChain SummarizationMiddleware、pydantic-ai profile把压缩做成中间件/能力探测

一份 2026 年的十一系统源码研究给出的判断是:七个系统采用阈值触发的 LLM 摘要,并且越来越多地做增量合并;压缩设计已经收敛,剩下的是实现细节差异。

已验证

本机实测

本轮未跑真实长会话,只做了资料与既有源码拆解的交叉核对;下面两组是替代证据。

官方文档确认

  • Anthropic 的上下文管理分三档:clear_tool_uses_20250919(服务端清工具结果)、clear_thinking(清推理块)、compact(摘要替换),beta 头分别是 context-management-2025-06-27 与 compact-2026-01-12。
  • OpenAI Responses 的服务端压缩通过 context_management 的 compact_threshold 开启,流式响应越线即触发压缩并产出不可读的 compaction 项;另有 responses.compact 端点供回合间调用。truncation: "auto" 是独立的丢弃式兜底。
  • LangChain SummarizationMiddleware 的行为可作参考实现:阈值触发、保留近期消息、强制 AI/tool 消息成对、摘要输入本身也有 token 上限。

未验证

  • Claude Code 的阈值公式与三层边界来自泄露构建的逆向,换版本需重核;Codex 的文件与行号对应某个具体 commit。
  • Gemini CLI 70%、OpenHands max_size=100 等数字来自二手整理,未读对应版本源码。
  • Amp 取消压缩的动因(递归摘要导致性能衰减)来自其公开说明与媒体报道,未拿到内部数据。

路径

路径要做的事状态产出
读单产品实现从源码还原触发条件、摘要范围与恢复动作已落地Claude Code 的查询循环、工具面与三层压缩
同上读 Rust 源码与 compact crate已落地Codex CLI 的 turn 循环、沙箱审批与自动压缩
同上从二进制符号还原会话与压缩状态机已落地opencode 的会话循环、inbox 调度与压缩
同上读插件图与 profile 组合已落地DeepSeek Harness 的插件图、goal 续跑与压缩
接 provider 原生压缩在自研 harness 上开 compact_threshold,对比自实现未开始—
自建两层压缩工具结果占位 + 阈值摘要,跑一次真实长会话未开始—
累积衰减观测连续压缩 3 次以上,检查早期约束是否还在未开始—
交接式会话用可编辑要点起新线程,替代摘要未开始—

待你决定

  • 压缩放哪一侧:服务端省实现但不可控、摘要不可读;自实现可控但要做成对保留、缓存失效、413 重试这三件脏活。要可回溯就选自实现 + 历史落盘。
  • 摘要还是交接:前者自动、能连续跑;后者质量高但要人参与。长任务用摘要,任务已经完成一半要换方向时用交接。
  • 是否保留全量历史:留盘可查回,但带来存储与敏感信息问题;不留盘就要接受摘要即真相。

参考