研究报告 · 约 22,861 字 · 预计推送 3 部分

上下文工程(Context Engineering)最佳实践:压缩、分层记忆、检索增强的最新共识——发展历程与横向对比综合报告 未开始

目录

题记与说明

综合说明:本报告由两份分轴研究综合而成——纵轴《上下文工程发展历程(2020–2026)》与横轴《上下文工程最佳实践 × 同类方案横向对比》(原始文件存于 parts/ 子目录)。综合时完成了三类工作:①校准两章之间的矛盾与口径差异(7 处)与重复合并(2 处,合计 9 条,逐条记录见文末附录"综合校准记录");②合并两章重复叙述的六个主题(Karpathy 定名、LangChain 四动词框架、Manus 六条经验、单/多 agent 之争、Sonnet 4.5 API 能力、context rot),正文只详述一次,其余位置交叉引用;③新增"交叉洞察"一节,把两轴结合成判断与建议。全部事实与数字保留原始出处链接;纵轴稿中唯一标注"(待核)"的时间点(Generative Agents)已按 arXiv 编号落实。数据截面:2026-10-28。

TL;DR

上下文工程是在"名义窗口"与"有效容量"落差间修建补偿机制的系统工程。纵轴:RAG、提示工程、智能体记忆三线合流,2025 年 6 月被 Karpathy 命名成科;每一次跃迁都不是窗口变大带来的,而是失效逼出来的——中间遗忘逼出检索,缓存定价逼出前缀工程,长程任务逼出压缩与记忆。横轴(2026-10):蛮力长上下文被 context rot 与 RULER 证明有效容量远低于标称;检索收敛为"富化+混合+重排序"并向即时探索演进;压缩已成 API 原生能力;分层记忆产品化但遭遇基准信任危机。两轴结合的共识是一条决策树:能即时检索的不预载、预载必可压缩、压缩必保状态、跨会话进分层记忆,一切先算 KV-cache 账。


一、纵轴:发展脉络(2020–2026)

主线一句话:上下文工程研究的对象是"在有限的上下文窗口与注意力预算内,决定让模型在每一步看到什么"的系统工程。它整合三条史前技术线——检索增强生成(RAG)、提示工程、智能体记忆——并在 2025 年因编码智能体(Claude Code、Codex、Manus 等)的长程任务实践而正式"命名成科"。从纵向看,这条线经历四个阶段:史前积累(2020–2023 初)→ 长上下文竞赛与打脸(2023–2024)→ 命名时刻与方法爆发(2024 末–2025 上半年)→ 方法收敛、平台化与标准化(2025 下半年–2026)。贯穿始终的驱动因素只有一个:上下文窗口的"名义容量"增长远快于"有效容量"的增长,工程师被迫在二者之间修建桥梁。

阶段〇:史前积累——上下文问题的提出(2020–2023 初)

阶段一:长上下文竞赛与"有效容量"打脸(2023–2024)

这是矛盾快速激化的阶段:窗口以一年约 30 倍的速度膨胀,而一系列研究证明"看得见 ≠ 用得上"。

阶段二:Agent 元年与"命名时刻"(2024 年末–2025 年上半年)

编码智能体把上下文管理从"一次性填 prompt"变成"每一步都要决策的在线问题",术语在这半年被正式发明并引爆。

阶段三:方法体系成型——主流做法收敛(2025 年 7–12 月)

共识形成期:一线团队的实践博客、学术综述、平台级 API 几乎同时落地。

纵轴失效编年(两章合并,按时间排列)

阶段四:标准化与制度化(2025 年 12 月–2026 年 10 月)

2026 年失效(承上编年)

纵轴小结:三线合一与"失效驱动"规律

三条史前支线的合流:检索增强(RAG → Contextual Retrieval → GraphRAG/HippoRAG → agentic search)提供了"选"的技术;分层记忆(Generative Agents → MemGPT → ChatGPT memory → Mem0/MemOS/memory tool)提供了"存"的技术;提示工程提供了"排布"的技术。2025 年 6 月起三者被统一在"context engineering"名下(两章共识清单合并后见第三节 3.1)。

纵轴最重要的教训:这个领域每一次跃迁都不是窗口变大带来的,而是"窗口变大却没用"的失效逼出来的——Lost in the Middle 逼出检索与位置工程,缓存经济学逼出前缀工程,长程任务逼出压缩与记忆,失效分类学(Breunig)逼出隔离与结构化。上下文工程的历史,就是一部"有效容量追赶名义容量"的补偿机制进化史。


二、横轴:横向对比(2026-10-28 截面)

2.1 对比对象的界定

在"如何让模型在长任务、长对话、大知识面上拿到正确的信息"这个问题上,2025–2026 年存在五条技术路线(A/B/C/D/E,其中检索一条路线展开为 B1/B2/B3 三种形态,表中合计九行)+一个替代范式(F)+一个横切底座(G)。被广泛引用的实操框架是 LangChain 2025 年 7 月的四动词分类——Write(写出去)、Select(选进来)、Compress(压下去)、Isolate(隔离开),本节对比维度按此对齐:

编号路线角色定位
A蛮力长上下文(Long Context LLM)路线一·基线对照:不工程化,直接塞——三大支柱的最大替代方案
B1向量/混合检索 RAG路线二·形态一:支柱三"检索增强"的主流形态
B2图谱增强 RAG(GraphRAG/LightRAG)路线二·形态二:支柱三的重型变体
B3Agentic RAG / 即时检索(JIT)路线二·形态三:支柱三的 2025–2026 新形态
C分层记忆系统(Mem0/Zep/Letta/厂商原生)路线三:支柱二"分层记忆"的产品化
D上下文压缩(compaction/context editing/LLMLingua)路线四:支柱一"压缩"的产品化
E隔离与多智能体(sub-agent 架构)路线五:支柱间的正交策略(四动词之一)
F替代范式:微调知识内化替代范式:用参数代替上下文
G横切底座:KV-cache 与 prompt caching 工程横切底座:一切路线的成本地基

2.2 总对比表

路线代表方案能力上限成本生态/成熟度适用场景主要失效模式(2025–2026 实录)
A 蛮力长上下文Gemini 2.5 Pro(1M)、GPT-4.1(1M)、Llama 4 Scout(宣称 10M)、Claude(200K 标准)结构化跨文档推理最强,但"有效上下文"远小于标称每查询成本随语料线性增长,prefill 延迟差模型侧标配,工程生态薄整本代码库/长转录一次性问答context rot:18 个主流模型全部随输入变长非线性掉分;RULER 显示约一半模型撑不住标称窗口
B1 向量/混合 RAGpgvector、Elastic 混合检索、重排序器中小语料 QA 最稳,可溯源检索基建 + 每次约 200–300ms 检索延迟★★★★★ 最成熟,2026 企业默认动态知识、需引用、语料超出窗口召回错误/切块破坏语义;72–80% 企业 RAG 项目从未上生产
B2 图谱 RAGMicrosoft GraphRAG、LightRAG、FalkorDB多跳/关系型问题独占优势离线建图"贵的离谱",LLM 抽取按 token 计费★★★ 新兴,生产案例少多跳推理、时序知识、反欺诈抽取 5% 失败率 × 重试烧钱;图质量决定上限
B3 Agentic RAG/JITAnthropic just-in-time 检索、Claude Research、deep agents新鲜度最高,免维护静态索引逐次探索烧 token(agent 负载输入:输出≈100:1)★★★★ 快速上升的 2026 主流文件系统/代码库/网页等可探索环境探索失控、工具调用污染上下文;多 agent 时 token 是聊天的 15 倍
C 分层记忆Mem0、Zep/Graphiti、Letta、Claude memory tool、ChatGPT Memory跨会话个性化与时序推理每轮记忆写入/检索增加延迟与调用★★★★ 产品化充分但基准混乱助手个性化、长周期协作 agentLoCoMo 基准危机:答案键 6.4% 本身错误,LLM 裁判放行 63% 的错误答案
D 上下文压缩Claude Code auto-compact、context editing、LLMLingua(最高 20x)、递归摘要把 200K 级会话压到可继续工作压缩本身要一次 LLM 调用;LLMLingua 类可省 2–20x★★★★ API 内置化(Anthropic 2025-09 原生提供)长时程 agent、成本敏感流水线误触发/丢关键状态/该压不压(见纵轴编年);压缩比高时细节丢失
E 隔离/多智能体Anthropic 多 agent 研究系统 vs Cognition 单 agent 路线并行广度搜索 +90.2%(Anthropic 内部研究评测)多 agent 比聊天多烧约 15x token★★★ 两派对立转"按任务形状选择"可并行分解的广度型研究任务子 agent 上下文不同步、决策冲突
F 微调内化LoRA/QLoRA、领域 SFT稳定领域深度准确、低延迟、风格可控前期训练贵,更新需重训★★★★ LoRA 成熟,但 2026 共识是"多数团队不该微调"行为/格式/风格内化知识更新即失效;无监督微调注入知识 consistently 输给 RAG
G KV-cache 工程Manus 实践、各家 prompt caching不改变能力,但决定成本/延迟下限缓存命中价差约 10x($0.30 vs $3/MTok)★★★★★ 生产 agent 的通用前提一切长会话 agent前缀不稳定/中间改动即缓存全灭

2.3 逐项要点

1. 蛮力长上下文:最强替代方案,但撞上 context rot。 2025 年窗口军备竞赛登峰:Llama 4 Scout 宣称 10M token(https://ai.meta.com/blog/llama-4-multimodal-intelligence)、Gemini 2.5 Pro 与 GPT-4.1 均达 1M(https://raoinformationtechnology.com/ai-context-window-comparison-2025)、Claude 维持 200K 标准。但两条证据链终结了"窗口越大越好"的叙事:Chroma《Context Rot》对 GPT-4.1、Claude、Gemini 等 18 个主流模型测试,全部随输入变长出现非线性、任务相关的性能衰减——passkey 式大海捞针不难,但重复查询反而掉分(5 次重复最高掉 20%+)、干扰项在长输入下危害放大;同一实验里 9K token 的记忆摘要胜过 113K 全量聊天记录(https://research.trychroma.com/context-rot)。NVIDIA RULER 显示约一半模型撑不住标称窗口的有效性能(经 https://pub.towardsai.net/rag-vs-long-context-in-2026-when-retrieval-still-wins-e6ebad9a4096 引述)。长上下文赢在跨文档结构推理与免维护,输在成本与"注意力预算"——这正是三大支柱存在的第一性依据(Anthropic 正式把上下文定义为有限资源,见纵轴阶段三)。

2. 检索增强(支柱三):三代同堂,重心从"建索引"移向"会探索"。 B1 向量/混合 RAG 是 2026 年企业默认:Elastic 搜索实验室确认混合检索(BM25+向量)+ 语义切块 + agentic search 是当前最优组合(https://www.elastic.co/search-labs/blog/context-engineering-relevance-ai-agents-elasticsearch),成本端可溯源、单查询成本低(Databricks 2000+ 组长上下文 RAG 实验:https://www.databricks.com/blog/long-context-rag-performance-llms);失效面是切块语义破坏与召回错配,且 72–80% 的企业 RAG 实现从未到达生产(https://www.falkordb.com/reference/why-rag-projects-never-reach-production)。B2 图谱 RAG 在多跳/关系型问题上独占优势,但 12 篇论文综述确认其优势仅在离线建图成本可被摊销时成立(https://flamehaven.space/writing/graphrag-wont-give-your-ai-a-brain-heres-what-twelve-papers-actually-say);摄取管线"贵到残暴"——5% 抽取失败率叠加重试即烧穿预算(https://www.linkedin.com/posts/pauliusztin_heres-something-i-had-to-learn-the-hard-activity-7433141660039102464-UT8Y);LightRAG 号称检索准确率 80%+ vs 传统 60–70%,但需 32B+ 级模型支撑(https://www.linkedin.com/pulse/lightrag-better-approach-graph-enhanced-generation-holt-nguyen-hfx2c);LLM 抽取图谱还存在索引不完整问题(https://huggingface.co/papers/2601.08773)。B3 Agentic RAG/JIT 是 2025–2026 增量共识:Anthropic 提出 just-in-time 检索(与"用文件系统当上下文"的 code execution 方案配套),Mastra、deepset、Sourcegraph 的 2026 年指南均把"运行时按需探索"列为对静态索引的替代(https://mastra.ai/articles/context-engineering 、https://haystack.deepset.ai/blog/context-engineering 、https://sourcegraph.com/blog/context-engineering);代价是探索过程本身的 token 消耗与上下文污染。

3. 分层记忆(支柱二):产品格局与"基准危机"。 2026 年头部格局(综合 https://sokko.ai/blog/ai-agent-memory-frameworks 、https://hamzashabbir.dev/article/ai-agent-memory-layer-mem0-vs-letta-vs-zep 、https://automem.ai/blog/agent-memory-in-2026-an-honest-comparison-of-mem0-zep-letta-and-the-rest ):

系统架构取向强项弱项
Mem0事实抽取+去重的记忆层快、干净的事实卡;宣称 LoCoMo ~92.5%LoCoMo 结果被 Zep 公开质疑;延迟与索引稳定性被抱怨
Zep / Graphiti时序知识图谱"何时为真"的时序推理最强建图成本、查询重
Letta(MemGPT 一脉)agent 自管记忆块灵活、记忆即运行时延迟与复杂度最高(LoCoMo 得分约 74% 一档)
厂商原生Anthropic memory tool(文件落盘,2025-09 与 Sonnet 4.5 同发)、ChatGPT Memory、Claude Code 记忆文件零集成成本通用型,领域记忆需自建

最刺眼的失效是基准信任危机:Mem0 宣称 LoCoMo SOTA 后遭 Zep 公开反驳(指控错误配置对比对象);2025-12 Penfield Labs 审计发现 LoCoMo 答案键约 6.4% 本身错误、LLM 裁判对故意错误答案的放行率高达 63%;社区转向 LongMemEval,而 Mem0/Letta 至今未公布该基准成绩(评测方法示例:https://github.com/maximem-ai/eval_benchmark_runs_output/blob/main/METHODOLOGY.md)。与纵轴的采用成功叙事(1200+ 引用、2400 万美元融资)合起来看,结论是:产品叙事跑在可验证证据前面——采用与危机并存,选型必须自建评测。

4. 上下文压缩(支柱一):从民间技巧变成 API 原生能力。 官方化:Anthropic context editing + memory tool(2025-09,性能 +39%、token 最多降 79%,见纵轴阶段三)。算法派:微软 LLMLingua 家族最高 20x 压缩,2025 复测显示 2–4x 压缩比下性能退化最小(https://github.com/microsoft/LLMLingua)。实战派:Manus 给出压缩之外的第四条路——结构保留(前缀稳定 + append-only + 文件系统当外部记忆 + recitation,见纵轴阶段三)。失效实录见纵轴编年(2025 年三连 issue → 2026 年跨生态"压缩即失忆");社区对策:手动 /compact、计划文件、hook 注入记忆(https://www.reddit.com/r/ClaudeCode/comments/1rfbtyv/do_you_compact_how_many_times)。压缩的失效本质:有损操作在错误时机执行,且压缩器(LLM 自己)不知道哪些信息是任务关键。

5. 隔离与多智能体:2025 年最著名的路线之争。 争论经过与数据(+90.2% / 15x token)见纵轴阶段二;2026 年的实践共识趋近"按任务形状选择":可并行分解的广度型研究用多 agent,需连贯决策的深度型任务用单 agent + 压缩/记忆(第三方分析:https://xagi.in/blog/cognition-vs-anthropic-dont-build-multi-agentshow-to-build-multi-agents)。Anthropic 自己也承认 effort 缩放是最大难点:简单事实查证 1 个 agent、复杂研究 10+ 个。

6. 替代范式·微调内化:"用参数代替上下文"。 奠基结论:RAG 一致优于无监督微调来注入新知识与旧知识(arXiv《Fine-Tuning or Retrieval?》:https://arxiv.org/html/2312.05934v3)。2026 年共识是"多数团队不该微调":LoRA/QLoRA 只用于行为/格式/风格内化,事实交给 RAG,混合架构成为企业标准(https://bigdataboutique.com/blog/fine-tuning-llms-when-rag-isnt-enough 、https://www.actian.com/blog/databases/should-you-use-rag-or-fine-tune-your-llm);简单的"知识常变用 RAG、稳定用微调"启发式正被更精细的成本-频率分析取代。失效:知识漂移后需全量重训;微调数据投毒直接写入参数、无上下文层可审计。

7. 横切底座·KV-cache 工程。 Manus 确立的底线共识:前缀稳定(避免时间戳)、上下文只追加不修改、用"掩码工具"而非"移除工具"——否则缓存失效、成本瞬间翻 10 倍。任何压缩/记忆方案的设计都必须为缓存命中率让路,这是 2025 年才被广泛写进工程文档的硬约束。

2.4 安全失效专节:上下文成为攻击面

2025-12 PromptPwnd(经 GitHub Actions 注入 Gemini CLI)、IDEsaster(Copilot/Gemini CLI/Claude Code 连环漏洞)、2026-08 AGENTS.md 型配置文件投毒(agent 读入即被劫持外传密钥)、MCP 工具元数据投毒(用户不可见、模型可见)、隐藏 HTML 注入使 15–29% 的输出场合被改变(综合来源:https://blog.intelligencex.org 、https://amux.io/guides/ai-agent-security-hardening)。与纵轴的记忆投毒(OWASP LLM04)合流为一条主线:上下文供给面(MCP、记忆、配置文件)已是新攻击面,且注入一旦进入持久记忆即跨会话存活。


三、交叉洞察:两轴结合说明了什么

3.1 两轴共同印证的最新共识(合并去重后七条)

合并纵轴小结的六条与横轴第五节的五条,去掉重复后:

  1. 上下文是有限资源,按"注意力预算"管理(Anthropic 2025-09、LangChain、Manus 三方独立趋同)——"窗口塞满"思维已被放弃。
  2. KV 缓存命中率是 agent 成本/延迟的第一性指标:稳定前缀、追加式编辑、缓存友好优先(Manus 2025-07 + 各家 prompt caching 定价)。
  3. 检索共识配方:上下文富化 + 向量/BM25 混合 + 重排序;能搜索就不硬塞、能放文件就不放窗口;2025–2026 重心进一步移向 JIT 探索与"文件系统即上下文"(Anthropic 2024-09、Manus、Mastra/deepset 2026 指南),并与 Karpathy 的"LLM wiki"设想相呼应——Karpathy 2026-04 提出让 LLM 把检索所得持续编译、维护成自有 wiki 式知识库,而非每次现查(gist:https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f)。
  4. 压缩是必要的恶:分层压缩(微压缩 → 自动压缩 → 手动)+ 结构化笔记/外部文件补偿;把错误与关键决策留在上下文(keep the tails);用增量 delta 更新而非整段重写(ACE 2025-10)。
  5. 记忆共识:工作记忆在窗口内、情景记忆用文件/记忆工具、语义记忆用检索库;跨会话记忆必须可审计、可清除(防记忆投毒,OWASP LLM04)。
  6. 隔离是规模化手段但不是免费午餐:子 agent/团队化隔离上下文,必须显式设计上下文交接与 token 预算。
  7. 最佳实践已被平台"官方收编"为 API 原生能力(Anthropic 2025-09 的 context editing/memory tool;MCP 基金会化)——护城河从"知道技巧"变成"会调参数 + 知道边界"。

3.2 仍未解决的四大分歧

  1. 单 agent vs 多 agent(Cognition vs Anthropic,2026 年未有定论,按任务形状选边);
  2. 图谱 RAG 的性价比(多跳优势 vs 建图成本,社区共识仅限"关系密集数据才值得");
  3. 记忆层怎么评测(LoCoMo 已失信,LongMemEval 未被全部厂商接受);
  4. 长上下文与 RAG 的边界(基准上长上下文可赢,成本与真实语料规模上 RAG 仍赢,2026 年主流是"检索 + 大窗口"混搭)。

3.3 失效驱动的创新循环:历史规律与当下证据互为镜像

纵轴的叙事规律——每次方法爆发前 6–18 个月都有一份失效证据——与横轴的共时对比互为镜像:

失效证据(时间)逼出的方法(时间)
Lost in the Middle(2023-07)Contextual Retrieval 与位置工程(2024-09)
Claude 2.1 大海捞针打脸(2023-11)→ RULER(2024-04)→ NoLiMa(2025-02)"有效窗口"评测标配化;检索成为默认而非可选项
prompt caching 定价(2024-08/10)Manus 六条与 KV-cache 前缀工程(2025-07)
多轮碎片化退化 39%(2025-05)context editing / memory tool API 化(2025-09)
compaction 失忆 issue 连发(2025–2026)三层压缩管线、结构化笔记、计划文件(2026)
LoCoMo 审计危机(2025-12)评测转向 LongMemEval、自建评测(2026)
记忆投毒(2024-09 起)→ 上下文投毒(2025-12 起)记忆可审计可清除、配置文件按不可信输入处理
注:表中配对是叙事性归纳,非严格因果论证——尤其"多轮碎片化退化 39%(2025-05)→ context editing / memory tool API 化(2025-09)"一行属同期并现:context editing 的官方动机是清除陈旧工具结果(见纵轴阶段三),与多轮退化并无已论证的因果;"39%"与"+39%"亦为数字巧合(见附录"综合校准记录"第 5 条)。

推论:想预测下一年的最佳实践,就盯住当下最新的失效报告——下一个共识正藏在最痛的 issue 里。

3.4 三个结构性判断

  1. "名义容量 vs 有效容量"的落差没有消失,只是换了战场。 2023–2024 的战场是检索与召回,2025 是注意力预算与压缩,2026 是 harness 工程(压缩管线、记忆文件、agent teams)与协议(MCP 无状态化)。窗口军备竞赛事实上停火(2026 旗舰停在 1M 量级),但有效容量仍在快速提升——提升全部来自 harness(纵轴结论)与路线组合(横轴矩阵)。
  2. 争论的收敛模式是"决策树化",而非"赢家通吃"。 单/多 agent、长上下文 vs RAG、微调 vs RAG 三场争论都以混合架构和按任务形状选择告终。2026-10 截面的"最新共识"不是某个单一技术,而是一条分层决策树——能 JIT 检索的不预载;预载的必须可压缩;压缩的必须保状态;跨会话的进分层记忆;一切之上先算 KV-cache 账;每层都有已公开的失效案例,设计文档应当直接引用它们作为反模式清单。
  3. 评测是全领域最薄弱的一环。 NoLiMa 证明高分靠词面捷径,LoCoMo 证明答案键与 LLM 裁判都不可靠,RULER 证明标称虚标——三条证据共同说明:任何厂商基准数字都不能直接采信,失效案例集是比成功案例集更可靠的工程依据。

3.5 对用户的判断与建议

  1. 按决策树排工程优先级:先把 KV-cache/前缀稳定做对(10 倍成本杠杆),再上检索配方(富化 + 混合 + rerank),最后才是压缩与记忆——这与历史爆发顺序一致,颠倒了会先烧钱后返工。
  2. 多 agent 保守化:默认单 agent + 压缩/记忆;只在可并行分解的广度型任务上启用多 agent,并接受约 15 倍 token 预算、显式设计交接——2026 年 agent teams 的方向是"结构化隔离"而非"自由并行"。
  3. 评测先行、反模式清单进设计文档:把失效四分类(poisoning/distraction/confusion/clash)、压缩失忆、记忆投毒、LoCoMo 危机当反模式清单直接引用;任何压缩/记忆选型先在 LongMemEval 式基准 + 自有任务上回归测试。
  4. 安全按"持久化攻击面"处理:AGENTS.md/CLAUDE.md、MCP 工具元数据、检索语料都按不可信输入对待;跨会话记忆必须可审计、可清除、可回滚。
  5. 不要为了窗口换模型:2026 年旗舰窗口趋平(1M 量级),有效容量提升来自 harness;迁移成本应投在压缩管线、检索与记忆文件上,而非追逐窗口参数。
  6. 微调只做行为不做事实:事实性知识交给 RAG + 记忆,参数内化仅用于风格/格式/稳定行为——知识一变微调即失效,且投毒无审计层。

四、参考来源(两章合并去重)

命名与框架

一线工程实践

失效、评测与安全

论文

平台与协议

成本与图谱


附录:综合校准记录(两章矛盾与重复的处理)

  1. Chroma《Context Rot》链接不一:纵轴用镜像(blog.rdcl.is),横轴用官方(research.trychroma.com)→ 以官方为主、镜像保留。
  2. Anthropic 多 agent 报告两个 URL(/research/… 与 /engineering/…)→ 判定为同一报告的站点改版路径,以 /engineering/ 为准,旧路径保留备注。
  3. RULER 结论两种表述("有效上下文普遍远低于标称" vs "约一半模型撑不住标称窗口")→ 合并为同一基准的两层口径,结论一致。
  4. 纵轴阶段〇内部时间线问题:标题写 2020–2022,却列入 2023 年 4 月的 Generative Agents(且标"待核")→ 校准为"史前积累(2020–2023 初)",时间按 arXiv 编号 2304.03442 落实。
  5. "39%"一词两义:多轮碎片化退化 39%(arXiv:2505.06120)与 Anthropic context editing "+39% 性能" → 两处均已标注,防止混淆。
  6. 压缩失效案例两章各列一批(横轴:2025 年 Claude Code #6123/#13112/#18866 与社区对策;纵轴:2026 年跨生态 issue 与过度压缩)→ 合并为同一条"纵轴失效编年",按时间排列,横轴 D 路线引用之。
  7. 记忆线两章侧写相反(纵轴:Mem0 融资 2400 万美元/1200+ 引用的成功叙事;横轴:LoCoMo 基准危机)→ 合并为"采用成功与评测危机并存"。
  8. 窗口规格取自不同时点(横轴 2025:Llama 4 Scout 宣称 10M、GPT-4.1 1M;纵轴 2026:Gemini 3 Pro 1M、GPT-5.2 约 196K)→ 统一为时间线呈现,Llama 4 Scout 的 10M 保留"宣称"限定。
  9. 重复主题六处合并:Karpathy 定名、LangChain 四动词、Manus 六条、单/多 agent 之争、Sonnet 4.5 API 能力、context rot——正文只详述一次,其余位置交叉引用;两章各自的共识清单(纵轴六条 + 横轴五条)合并为 3.1 的七条。

思考题(读完后想一想,参考答案可展开)

  1. 报告为什么把上下文工程定义为“在名义窗口与有效容量落差间修建补偿机制的系统工程”?其历史规律是什么?
    参考答案

    报告指出,窗口名义容量增长远快于有效容量:Lost in the Middle 证明模型对中部信息利用率呈 U 形下降,RULER 显示约一半模型撑不住标称窗口,Chroma Context Rot 实测 18 个主流模型全部随输入变长非线性掉分,其中 9K 记忆摘要胜过 113K 全量聊天记录。历史规律是每次跃迁都由失效逼出:中间遗忘逼出检索,缓存定价逼出前缀工程,长程任务逼出压缩与记忆。

  2. 面对长上下文、检索、压缩、分层记忆等多条路线,报告给出的取舍决策树是什么?各路线的主要代价是什么?
    参考答案

    决策树:能即时检索的不预载、预载必可压缩、压缩必保状态、跨会话进分层记忆,一切先算 KV-cache 账(缓存价差约 10 倍)。各路线代价:蛮力长上下文撞上 context rot;向量/混合 RAG 是 2026 企业默认但 72–80% 项目从未上生产;图谱 RAG 仅在关系密集数据且建图成本可摊销时值得;多 agent 仅用于可并行分解的广度型任务,需接受约 15 倍 token 预算。

  3. 压缩与记忆系统有哪些实录失效?为什么报告认为评测是全领域最薄弱的一环?
    参考答案

    压缩方面:Claude Code 2025 年三连 issue(误触发、丢关键状态、该压不压),2026 年“压缩即失忆”成跨生态最集中故障源,本质是有损操作在错误时机执行、压缩器不知哪些信息关键;过度压缩还会打爆缓存。记忆方面:LoCoMo 基准答案键约 6.4% 本身错误、LLM 裁判放行 63% 的故意错误答案。报告结论:厂商基准数字不能直接采信,失效案例集比成功案例更可靠。

  4. 个人开发者构建长程 Agent 时,报告建议按什么优先级落实工程实践?
    参考答案

    按历史爆发顺序排优先级:先把 KV-cache/前缀稳定做对(10 倍杠杆:稳定前缀、时间戳外移、工具用掩码);再上检索配方(富化+混合检索+重排序);最后才是压缩与记忆。同时:多 agent 保守化,默认单 agent+压缩/记忆;把错误留在上下文、todo.md 末尾复述目标;配置文件、MCP 元数据按不可信输入处理,跨会话记忆须可审计可清除;不要为窗口换模型,有效容量提升靠 harness。

← 资料库今日播报 →