题记与说明
综合说明:本报告由两份分轴研究综合而成——纵轴《上下文工程发展历程(2020–2026)》与横轴《上下文工程最佳实践 × 同类方案横向对比》(原始文件存于 parts/ 子目录)。综合时完成了三类工作:①校准两章之间的矛盾与口径差异(7 处)与重复合并(2 处,合计 9 条,逐条记录见文末附录"综合校准记录");②合并两章重复叙述的六个主题(Karpathy 定名、LangChain 四动词框架、Manus 六条经验、单/多 agent 之争、Sonnet 4.5 API 能力、context rot),正文只详述一次,其余位置交叉引用;③新增"交叉洞察"一节,把两轴结合成判断与建议。全部事实与数字保留原始出处链接;纵轴稿中唯一标注"(待核)"的时间点(Generative Agents)已按 arXiv 编号落实。数据截面:2026-10-28。
TL;DR
上下文工程是在"名义窗口"与"有效容量"落差间修建补偿机制的系统工程。纵轴:RAG、提示工程、智能体记忆三线合流,2025 年 6 月被 Karpathy 命名成科;每一次跃迁都不是窗口变大带来的,而是失效逼出来的——中间遗忘逼出检索,缓存定价逼出前缀工程,长程任务逼出压缩与记忆。横轴(2026-10):蛮力长上下文被 context rot 与 RULER 证明有效容量远低于标称;检索收敛为"富化+混合+重排序"并向即时探索演进;压缩已成 API 原生能力;分层记忆产品化但遭遇基准信任危机。两轴结合的共识是一条决策树:能即时检索的不预载、预载必可压缩、压缩必保状态、跨会话进分层记忆,一切先算 KV-cache 账。
一、纵轴:发展脉络(2020–2026)
主线一句话:上下文工程研究的对象是"在有限的上下文窗口与注意力预算内,决定让模型在每一步看到什么"的系统工程。它整合三条史前技术线——检索增强生成(RAG)、提示工程、智能体记忆——并在 2025 年因编码智能体(Claude Code、Codex、Manus 等)的长程任务实践而正式"命名成科"。从纵向看,这条线经历四个阶段:史前积累(2020–2023 初)→ 长上下文竞赛与打脸(2023–2024)→ 命名时刻与方法爆发(2024 末–2025 上半年)→ 方法收敛、平台化与标准化(2025 下半年–2026)。贯穿始终的驱动因素只有一个:上下文窗口的"名义容量"增长远快于"有效容量"的增长,工程师被迫在二者之间修建桥梁。
阶段〇:史前积累——上下文问题的提出(2020–2023 初)
- 2020 年 5 月,OpenAI 发布 GPT-3 论文《Language Models are Few-Shot Learners》(arXiv:2005.14165),"上下文学习"(in-context learning)成为正式概念:模型从 prompt 里的示例中学习,"上下文即程序"。同月,Lewis 等人发表 RAG 原始论文(arXiv:2005.11401),确立"检索外部文档拼进 prompt"的范式——这是"检索增强"一条线的起点。
- 2022 年 11 月 ChatGPT 发布,prompt engineering 成为一门"手艺";此时窗口仅 4K–8K token,"塞什么进上下文"完全由人手工决定。DeepMind RETRO(2022)亦属此期检索线的延伸。
- 2023 年 4 月,斯坦福《Generative Agents》(arXiv:2304.03442)提出 memory stream + reflection 的记忆流架构,是"分层记忆"一条线的学术源头。(纵轴原稿标注"待核",本综合按 arXiv 编号 2304 = 2023 年 4 月落实。)
- 主要参与者:OpenAI、斯坦福、Meta AI(RAG)、DeepMind。驱动因素:模型无法在参数中持续更新知识,所有"知识注入"只能走上下文;窗口太小,"少而精的提示"是唯一解。
阶段一:长上下文竞赛与"有效容量"打脸(2023–2024)
这是矛盾快速激化的阶段:窗口以一年约 30 倍的速度膨胀,而一系列研究证明"看得见 ≠ 用得上"。
- 2023 年 7 月,斯坦福刘北航等《Lost in the Middle: How Language Models Use Long Contexts》(arXiv:2307.03172,TACL):模型对上下文中间位置的信息利用率显著下降,性能呈 U 形曲线。此后五年被反复引用,成为整个领域的"地基性失效证据"。
- 2023 年 10 月,UC Berkeley《MemGPT: Towards LLMs as Operating Systems》(arXiv:2310.08560):用操作系统虚拟内存的思路做主上下文/外部上下文分层,让 LLM 自主分页管理记忆——"分层记忆"的工程化鼻祖,后演化为公司 Letta。
- 2023 年 11 月 21 日,Anthropic 发布 Claude 2.1,主打 200K 行业最大窗口,随即遭遇社区"大海捞针"实测打脸——中部内容召回严重劣化(HN 实测报告:https://news.ycombinator.com/item?id=38365934)。这是"名义窗口 vs 有效窗口"的第一次公开冲突。
- 2024 年 2 月 15 日,Google 发布 Gemini 1.5 Pro:128K 起步、限量开放 1M token,技术报告(arXiv:2403.05530)声称研究环境下 10M 仍近满分召回(https://blog.google/innovation-and-ai/products/google-gemini-next-generation-model-february-2024)——长上下文竞赛的第一个高潮。
- 2024 年 4 月,NVIDIA 发布 RULER 基准(arXiv:2404.06654),系统证明各家"标称 32K–2048K"的模型有效上下文普遍远低于标称值(横轴引述的另一表述:约一半模型撑不住标称窗口,两条口径并存、结论一致);同月微软发表 GraphRAG《From Local to Global》(arXiv:2404.16130),用知识图谱 + 社区摘要回答"全局性"问题。
- 2024 年 2 月起,OpenAI 两度为 ChatGPT 上线持久记忆(2024-02-13 公告:https://openai.com/index/memory-and-new-controls-for-chatgpt),"产品级长记忆"进入消费端。
- 2024 年 8 月 / 10 月,Anthropic 与 OpenAI 先后上线 prompt caching(KV 缓存复用;OpenAI 2024-10-01 公告:https://openai.com/index/api-prompt-caching)。缓存经济学从此成为上下文工程的第一性约束:上下文怎么排布,直接决定成本是 1 倍还是 5 倍。
- 2024 年 9 月 19 日,Anthropic 发布 Contextual Retrieval(https://www.anthropic.com/research/contextual-retrieval):给每个 chunk 生成上下文描述后再做向量 + BM25 混合检索,top-20 失败率下降 35%(加 rerank 达 49%–67%)。这确立了此后 RAG 的共识配方:上下文富化 + 混合检索 + 重排序。
阶段二:Agent 元年与"命名时刻"(2024 年末–2025 年上半年)
编码智能体把上下文管理从"一次性填 prompt"变成"每一步都要决策的在线问题",术语在这半年被正式发明并引爆。
- 2024 年 11 月 25 日,Anthropic 发布并开源 Model Context Protocol(MCP):为模型接入外部数据与工具定义统一协议,号称"AI 的 USB-C"——"上下文供给"的第一次标准化尝试(https://modelcontextprotocol.io)。
- 2025 年 2 月 24 日,Anthropic 发布 Claude Code 研究预览版;随后 2025 年 4 月 OpenAI Codex CLI、6 月 Gemini CLI 跟进。三者全部内置 compaction(自动压缩)与 CLAUDE.md/AGENTS.md 项目记忆——agent harness 成为上下文工程的最大试验场。
- 2025 年 3–4 月,OpenAI(Agents SDK)与 Google 先后宣布支持 MCP,协议发布仅四个月成为事实标准。
- 2025 年 4 月 7 日,Shopify CEO Tobi Lütke 内部备忘录《Reflexive AI usage is now a baseline expectation》外传,公开表示更喜欢"context engineering"这个词:"它更准确地描述了核心技能"(Simon Willison 存档:https://simonwillison.net/tags/tobias-lutke/)。
- 2025 年 6 月 25/26 日,Andrej Karpathy 发推 "+1 for 'context engineering' over 'prompt engineering'",将其定义为"用恰到好处的信息填满上下文窗口的精细艺术与科学"(推文存档:https://x.com/karpathy/status/1937902205765607626)。这是术语引爆点——据 Willison 与多个社区回顾,该词在 agent 圈子已流传约两年,Karpathy 使其主流化(2026 年演进回顾:https://thecontextgraph.co/memos/context-engineering-2026-from-tweet-to-infrastructure)。
- 2025 年 5 月,微软/Salesforce《LLMs Get Lost in Multi-Turn Conversation》(arXiv:2505.06120):同样任务拆成多轮"碎片化"下达后,15 个主流模型平均掉分 39%,且模型难以从早期错误假设中恢复。该文 2026 年获 ICLR Outstanding Paper,是"多轮对话即上下文失效"的定量证据。(注意:这个 39% 与下文 Anthropic context editing "+39% 性能"是两回事,数字巧合。)
- 2025 年 6 月 12–13 日,行业著名观点对撞(两文前后脚发表):Cognition(Devin 团队)Walden Yan 发表《Don't Build Multi-Agents》(2025-06-12,https://cognition.com/blog/dont-build-multi-agents ,旧域名 cognition.ai 重定向至此),主张"共享完整上下文 + 单线程长 agent + 压缩",警告并行子 agent 会造成决策冲突;次日(6 月 13 日)Anthropic 发表《How we built our multi-agent research system》(https://www.anthropic.com/engineering/built-multi-agent-research-system;纵轴原稿所引 /research/ 路径为同文旧链接)给出相反立场:多 agent 在内部研究评测上超出单 agent 90.2%,但要烧约 15 倍 token。双方共同点:上下文如何流动是 agent 架构的第一决策。
阶段三:方法体系成型——主流做法收敛(2025 年 7–12 月)
共识形成期:一线团队的实践博客、学术综述、平台级 API 几乎同时落地。
- 2025 年 7 月 18 日,Manus 联合创始人季逸超(Peak Ji)发表《Context Engineering for AI Agents: Lessons from Building Manus》(https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus),六条经验成为 KV-cache 时代的工程圣经:缓存命中率是第一指标(稳定前缀、时间戳外移);工具用掩码不用增删;把错误留在上下文里(keep the tails);用文件系统当上下文;todo.md 末尾复述目标(recitation,对抗 lost-in-the-middle);避免 few-shot 惯性。文中并披露 agent 负载输入:输出 token 比约 100:1、缓存与未缓存输入价差约 10 倍($0.30 vs $3/MTok)。
- 同月两篇"理论底盘":Chroma《Context Rot》(2025-07-17,官方 https://research.trychroma.com/context-rot ,镜像 https://blog.rdcl.is/2025/07/17/context-rot-how-increasing-input.html):即使在大海捞针式简单任务上,增加输入 token 也会一致性地损害性能,"上下文腐烂"成为标准术语(18 模型实测细节见第二节 A 路线);arXiv 综述《A Survey of Context Engineering for Large Language Models》(arXiv:2507.13334,160+ 页、1400+ 篇文献)把领域划分为检索与生成、处理、管理、利用四大板块——学术界首次为该领域划界;LangChain《How to think about context engineering》(https://blog.langchain.com/how-to-think-about-context-engineering/ ,配套代码库 https://github.com/langchain-ai/context_engineering)提出 Write / Select / Compress / Isolate 四动词框架,成为传播最广的教学框架(PyCon 2026 仍在引用)。
- 2025 年 8 月,Drew Breunig《How Long Contexts Fail》(https://www.dbreunig.com/tags/ai.html)给出失效四分类:上下文中毒(poisoning)、分心(distraction,长历史压过当前任务)、混淆(confusion,无关内容稀释)、冲突(clash,同上下文内信息自相矛盾);2026 年又补充新变体"上下文惯性"。这是 2025–2026 年失效案例讨论的通用词汇表。
- 2025 年 9 月 29 日,Anthropic 一日双发:Claude Sonnet 4.5(官方观察到在复杂多步任务上保持专注超过 30 小时,前提正是 harness 做上下文管理)+ 工程博客《Effective context engineering for AI agents》(https://www.anthropic.com/research/effective-context-engineering-for-ai-agents ;第三方转述 https://www.marktechpost.com/2025/10/20/a-guide-for-effective-context-engineering-for-ai-agents),提出"上下文是有限资源,注意力预算是稀缺资源",系统化 compaction、结构化笔记、子 agent 隔离三种手段。同期 API 上线 context editing(自动清除陈旧工具结果)与 memory tool(文件式长期记忆)(文档:https://platform.claude.com/docs/en/build-with-claude/context-editing ;https://platform.claude.com/docs/en/agents-and-tools/tool-use/memory-tool):官方数据称两者组合使长时程 agent 任务性能 +39%、配合缓存 token 用量最多降 79%(https://www.anthropic.com/news/claude-sonnet-4-5)。
- 2025 年 10 月,记忆生态全面爆发:斯坦福/SambaNova/UC Berkeley《Agentic Context Engineering(ACE)》(arXiv:2510.04618,后入选 ICLR 2026)提出把上下文当作增量演化的 playbook(Generator/Reflector/Curator 三角色 + delta 更新,避免整段重写造成的"context collapse");Mem0 论文(arXiv:2504.19413)获 1200+ 引用并于 10 月宣布融资 2400 万美元(但其基准宣称随后遭遇危机,见第二节 C 路线);俄亥俄州立 HippoRAG 2《From RAG to Memory》(2025-02)把检索与记忆统一为非参数持续学习;MemOS(arXiv:2507.03724)提出"记忆操作系统"。Anthropic 同月发布 Agent Skills(打包式上下文/程序),CLAUDE.md/AGENTS.md 项目记忆成为跨工具事实标准。
- 2025 年 11 月 25 日,MCP 一周年发布 2025-11-25 规范(官方回顾:https://blog.modelcontextprotocol.io/posts/2025-11-25-first-mcp-anniversary);同月 Gemini 3 Pro(1M 窗口)、GPT-5.1、Claude Opus 4.5(SWE-bench 80.9%)迭代。值得注意的信号:窗口大小不再是发布会的头条。
纵轴失效编年(两章合并,按时间排列)
- 2025 年 2 月:NoLiMa 基准(arXiv:2502.05167)——去掉字面重叠线索后,12 个声称支持 ≥128K 的模型有效上下文骤降(GPT-4o 从 99.3% 跌至 32K 处 69.7%),证明"大海捞针"高分靠的是词面匹配捷径。
- 2025 年 5 月:多轮碎片化退化 39%(arXiv:2505.06120,见阶段二)。
- 2025 年 6 月起:多 agent 上下文冲突——Cognition 指出并行子 agent 决策互不知情导致的系统性脆弱;学术统计(UC Berkeley 等多机构团队《Why Do Multi-Agent LLM Systems Fail?》MAST 失效分类研究,2025-03)对 7 个主流开源多 agent 框架 1600+ 条运行轨迹的人工标注显示,任务失败率介于 41%–86.7%,代理间错位(如信息滞留、忽视其他 agent 输入)是与系统设计、任务验证并列的三大失效类之一(arXiv:2503.13657)。
- 2025 年(Claude Code auto-compact 三连失效):GitHub issues #6123(8–12% 占用时误触发)、#13112(压缩直接丢失"改过哪些文件/任务目标"等关键状态并降质,2025-12)、#18866(该压缩时不压缩):https://github.com/anthropics/claude-code/issues/6123 、…/issues/13112 、…/issues/18866 。
- 2024 年 9 月起·记忆投毒:安全研究员 Johann Rehberger 演示用 prompt injection 让 ChatGPT 写入"虚假永久记忆"并形成持续外泄通道(Ars Technica:https://arstechnica.com/civis/threads/false-memories-planted-in-chatgpt-give-hacker-persistent-exfiltration-channel.1503132/);2025 年"记忆投毒"成为 OWASP LLM 应用 Top 10(2025 版 v2.0 的 LLM04:Data and Model Poisoning,数据与模型投毒,https://genai.owasp.org )下的公认威胁类——prompt injection 会话结束即失效,记忆投毒则跨会话存活。
阶段四:标准化与制度化(2025 年 12 月–2026 年 10 月)
- 2025 年 12 月 9 日,Anthropic 将 MCP 捐赠给 Linux Foundation 旗下新设的 Agentic AI Foundation(OpenAI、Block、Microsoft 等共同支持),上下文供给协议完成从中立开源到基金会治理的跃迁(https://www.diginomica.com/anthropic-openai-and-block-donate-ai-agent-projects-new-linux-foundation-body)。
- 2026 年 2 月 5 日,Anthropic 发布 Claude Opus 4.6,Claude Code 上线 agent teams(多 agent 并行协作)研究预览(https://www.anthropic.com/news/claude-opus-4-6)——这是对 Cognition 2025 年警告的工程化回应:不再争论"要不要多 agent",而是用团队化、结构化的上下文隔离来控制失效面。
- 2026 年上半年,学术认可密集兑现:ACE 入选 ICLR 2026;多轮退化论文获 ICLR 2026 Outstanding Paper;Manning《Context Engineering》等专著排期至 2026 年 11 月出版,四动词框架与"压缩/记忆/检索/隔离"词汇全面教科书化(2026 综述指南:https://towardsai.com/p/machine-learning/context-engineering-the-6-techniques-that-actually-matter-in-2026-a-comprehensive-guide 及 https://atlan.com/know/ai-agent/context-engineering/context-engineering-techniques-ai-agents)。
- 2026 年 7 月 28 日,MCP 发布迄今最大改版 2026-07-28 规范:无状态协议核心(取消初始化握手与会话)、多往返请求、Tasks 降级为扩展、强化授权(https://blog.modelcontextprotocol.io/posts/2026-07-28)——协议设计本身开始呼应"上下文无状态化"的工程潮流。窗口方面,2026 年旗舰模型停在 Gemini 3 Pro 1M / Claude 200K–1M / GPT-5.2 约 196K(对比报告:https://www.vellum.ai/blog/flagship-model-report):两年间有效容量的提升主要来自 harness 而非窗口。
- 压缩管线成为编码 agent 事实标准:Claude Code 的三层管线——microcompaction(清除陈旧工具结果)→ auto-compaction(整窗摘要)→ 手动 /compact;社区逆向工程确认其内部实现细分为五级(由廉到贵):工具结果预算 → 历史修剪 → microcompact → context collapse(本地可逆折叠)→ autocompact(fork 子 agent 做整窗摘要,五级中唯一涉及 LLM 调用)——五级即上述三层的内部实现细化,多出的两层是 microcompact 之前的预算/预处理级(工具结果预算、历史修剪)与其后的 context collapse 级,均不产生额外 LLM 调用,多数会话走不到第五级(五级拆解:https://harrisonsec.com/blog/claude-code-context-engineering-compression-pipeline ;Victor Dibia 的三层口径:https://newsletter.victordibia.com/p/inside-claude-code ;另见 Troy Hua / Victor Dibia 拆解:https://kotrotsos.medium.com/claude-code-internals-part-13-context-management-ffa3f4a0f6b4)。OpenAI Codex、Gemini CLI 均采用类似"自动压缩 + 外部记忆文件"设计。
2026 年失效(承上编年)
- 压缩即失忆成为 2026 年最集中的故障源:openai/codex issue #20287(2026-04-29,编辑压缩前的消息导致全部上下文丢失,https://github.com/openai/codex/issues/20287)、earendil-works/pi issue #2383(2026-03-18,约 80% 窗口触发自动压缩后 agent 静默卡死)、microsoft/agent-framework issue #4991(2026-03-31,压缩策略错误);社区文章《The Compaction Problem Behind Every Long-Running Agent》(2026-07-28)将其概括为"忘得不好"(forgetting badly)。
- 过度压缩:r/ClaudeAI 有用户实测抱怨激进 microcompaction"把 agent 的核心优势删掉了"——为省 token 清掉了仍会被引用的中间结果;且 microcompaction 修改 system prompt 本会打爆 prompt 缓存——Claude Code 内部曾因未正确处理该失效而自致约 20% 的 prompt 缓存中断事件(tengu_prompt_cache_break;据 Victor Dibia 对内部代码的拆解:https://newsletter.victordibia.com/p/inside-claude-code)。
- 上下文惯性:Drew Breunig 2026 年补充的失效模式——长程任务中模型对早期上下文"过度专注",无法丢弃过期假设,解法恰恰是"把上下文扔掉重来"。
- 窗口配置 bug:2026 年 4 月 Claude Code 被报告 Max 套餐下上下文窗口卡在 200K 的配置失效问题(https://github.com/anthropics/claude-code/issues/47019)——"上下文预算管理"本身已成为复杂到会出 bug 的子系统。
纵轴小结:三线合一与"失效驱动"规律
三条史前支线的合流:检索增强(RAG → Contextual Retrieval → GraphRAG/HippoRAG → agentic search)提供了"选"的技术;分层记忆(Generative Agents → MemGPT → ChatGPT memory → Mem0/MemOS/memory tool)提供了"存"的技术;提示工程提供了"排布"的技术。2025 年 6 月起三者被统一在"context engineering"名下(两章共识清单合并后见第三节 3.1)。
纵轴最重要的教训:这个领域每一次跃迁都不是窗口变大带来的,而是"窗口变大却没用"的失效逼出来的——Lost in the Middle 逼出检索与位置工程,缓存经济学逼出前缀工程,长程任务逼出压缩与记忆,失效分类学(Breunig)逼出隔离与结构化。上下文工程的历史,就是一部"有效容量追赶名义容量"的补偿机制进化史。
二、横轴:横向对比(2026-10-28 截面)
2.1 对比对象的界定
在"如何让模型在长任务、长对话、大知识面上拿到正确的信息"这个问题上,2025–2026 年存在五条技术路线(A/B/C/D/E,其中检索一条路线展开为 B1/B2/B3 三种形态,表中合计九行)+一个替代范式(F)+一个横切底座(G)。被广泛引用的实操框架是 LangChain 2025 年 7 月的四动词分类——Write(写出去)、Select(选进来)、Compress(压下去)、Isolate(隔离开),本节对比维度按此对齐:
| 编号 | 路线 | 角色定位 |
|---|---|---|
| A | 蛮力长上下文(Long Context LLM) | 路线一·基线对照:不工程化,直接塞——三大支柱的最大替代方案 |
| B1 | 向量/混合检索 RAG | 路线二·形态一:支柱三"检索增强"的主流形态 |
| B2 | 图谱增强 RAG(GraphRAG/LightRAG) | 路线二·形态二:支柱三的重型变体 |
| B3 | Agentic RAG / 即时检索(JIT) | 路线二·形态三:支柱三的 2025–2026 新形态 |
| C | 分层记忆系统(Mem0/Zep/Letta/厂商原生) | 路线三:支柱二"分层记忆"的产品化 |
| D | 上下文压缩(compaction/context editing/LLMLingua) | 路线四:支柱一"压缩"的产品化 |
| E | 隔离与多智能体(sub-agent 架构) | 路线五:支柱间的正交策略(四动词之一) |
| F | 替代范式:微调知识内化 | 替代范式:用参数代替上下文 |
| G | 横切底座:KV-cache 与 prompt caching 工程 | 横切底座:一切路线的成本地基 |
2.2 总对比表
| 路线 | 代表方案 | 能力上限 | 成本 | 生态/成熟度 | 适用场景 | 主要失效模式(2025–2026 实录) |
|---|---|---|---|---|---|---|
| A 蛮力长上下文 | Gemini 2.5 Pro(1M)、GPT-4.1(1M)、Llama 4 Scout(宣称 10M)、Claude(200K 标准) | 结构化跨文档推理最强,但"有效上下文"远小于标称 | 每查询成本随语料线性增长,prefill 延迟差 | 模型侧标配,工程生态薄 | 整本代码库/长转录一次性问答 | context rot:18 个主流模型全部随输入变长非线性掉分;RULER 显示约一半模型撑不住标称窗口 |
| B1 向量/混合 RAG | pgvector、Elastic 混合检索、重排序器 | 中小语料 QA 最稳,可溯源 | 检索基建 + 每次约 200–300ms 检索延迟 | ★★★★★ 最成熟,2026 企业默认 | 动态知识、需引用、语料超出窗口 | 召回错误/切块破坏语义;72–80% 企业 RAG 项目从未上生产 |
| B2 图谱 RAG | Microsoft GraphRAG、LightRAG、FalkorDB | 多跳/关系型问题独占优势 | 离线建图"贵的离谱",LLM 抽取按 token 计费 | ★★★ 新兴,生产案例少 | 多跳推理、时序知识、反欺诈 | 抽取 5% 失败率 × 重试烧钱;图质量决定上限 |
| B3 Agentic RAG/JIT | Anthropic just-in-time 检索、Claude Research、deep agents | 新鲜度最高,免维护静态索引 | 逐次探索烧 token(agent 负载输入:输出≈100:1) | ★★★★ 快速上升的 2026 主流 | 文件系统/代码库/网页等可探索环境 | 探索失控、工具调用污染上下文;多 agent 时 token 是聊天的 15 倍 |
| C 分层记忆 | Mem0、Zep/Graphiti、Letta、Claude memory tool、ChatGPT Memory | 跨会话个性化与时序推理 | 每轮记忆写入/检索增加延迟与调用 | ★★★★ 产品化充分但基准混乱 | 助手个性化、长周期协作 agent | LoCoMo 基准危机:答案键 6.4% 本身错误,LLM 裁判放行 63% 的错误答案 |
| D 上下文压缩 | Claude Code auto-compact、context editing、LLMLingua(最高 20x)、递归摘要 | 把 200K 级会话压到可继续工作 | 压缩本身要一次 LLM 调用;LLMLingua 类可省 2–20x | ★★★★ API 内置化(Anthropic 2025-09 原生提供) | 长时程 agent、成本敏感流水线 | 误触发/丢关键状态/该压不压(见纵轴编年);压缩比高时细节丢失 |
| E 隔离/多智能体 | Anthropic 多 agent 研究系统 vs Cognition 单 agent 路线 | 并行广度搜索 +90.2%(Anthropic 内部研究评测) | 多 agent 比聊天多烧约 15x token | ★★★ 两派对立转"按任务形状选择" | 可并行分解的广度型研究任务 | 子 agent 上下文不同步、决策冲突 |
| F 微调内化 | LoRA/QLoRA、领域 SFT | 稳定领域深度准确、低延迟、风格可控 | 前期训练贵,更新需重训 | ★★★★ LoRA 成熟,但 2026 共识是"多数团队不该微调" | 行为/格式/风格内化 | 知识更新即失效;无监督微调注入知识 consistently 输给 RAG |
| G KV-cache 工程 | Manus 实践、各家 prompt caching | 不改变能力,但决定成本/延迟下限 | 缓存命中价差约 10x($0.30 vs $3/MTok) | ★★★★★ 生产 agent 的通用前提 | 一切长会话 agent | 前缀不稳定/中间改动即缓存全灭 |
2.3 逐项要点
1. 蛮力长上下文:最强替代方案,但撞上 context rot。 2025 年窗口军备竞赛登峰:Llama 4 Scout 宣称 10M token(https://ai.meta.com/blog/llama-4-multimodal-intelligence)、Gemini 2.5 Pro 与 GPT-4.1 均达 1M(https://raoinformationtechnology.com/ai-context-window-comparison-2025)、Claude 维持 200K 标准。但两条证据链终结了"窗口越大越好"的叙事:Chroma《Context Rot》对 GPT-4.1、Claude、Gemini 等 18 个主流模型测试,全部随输入变长出现非线性、任务相关的性能衰减——passkey 式大海捞针不难,但重复查询反而掉分(5 次重复最高掉 20%+)、干扰项在长输入下危害放大;同一实验里 9K token 的记忆摘要胜过 113K 全量聊天记录(https://research.trychroma.com/context-rot)。NVIDIA RULER 显示约一半模型撑不住标称窗口的有效性能(经 https://pub.towardsai.net/rag-vs-long-context-in-2026-when-retrieval-still-wins-e6ebad9a4096 引述)。长上下文赢在跨文档结构推理与免维护,输在成本与"注意力预算"——这正是三大支柱存在的第一性依据(Anthropic 正式把上下文定义为有限资源,见纵轴阶段三)。
2. 检索增强(支柱三):三代同堂,重心从"建索引"移向"会探索"。 B1 向量/混合 RAG 是 2026 年企业默认:Elastic 搜索实验室确认混合检索(BM25+向量)+ 语义切块 + agentic search 是当前最优组合(https://www.elastic.co/search-labs/blog/context-engineering-relevance-ai-agents-elasticsearch),成本端可溯源、单查询成本低(Databricks 2000+ 组长上下文 RAG 实验:https://www.databricks.com/blog/long-context-rag-performance-llms);失效面是切块语义破坏与召回错配,且 72–80% 的企业 RAG 实现从未到达生产(https://www.falkordb.com/reference/why-rag-projects-never-reach-production)。B2 图谱 RAG 在多跳/关系型问题上独占优势,但 12 篇论文综述确认其优势仅在离线建图成本可被摊销时成立(https://flamehaven.space/writing/graphrag-wont-give-your-ai-a-brain-heres-what-twelve-papers-actually-say);摄取管线"贵到残暴"——5% 抽取失败率叠加重试即烧穿预算(https://www.linkedin.com/posts/pauliusztin_heres-something-i-had-to-learn-the-hard-activity-7433141660039102464-UT8Y);LightRAG 号称检索准确率 80%+ vs 传统 60–70%,但需 32B+ 级模型支撑(https://www.linkedin.com/pulse/lightrag-better-approach-graph-enhanced-generation-holt-nguyen-hfx2c);LLM 抽取图谱还存在索引不完整问题(https://huggingface.co/papers/2601.08773)。B3 Agentic RAG/JIT 是 2025–2026 增量共识:Anthropic 提出 just-in-time 检索(与"用文件系统当上下文"的 code execution 方案配套),Mastra、deepset、Sourcegraph 的 2026 年指南均把"运行时按需探索"列为对静态索引的替代(https://mastra.ai/articles/context-engineering 、https://haystack.deepset.ai/blog/context-engineering 、https://sourcegraph.com/blog/context-engineering);代价是探索过程本身的 token 消耗与上下文污染。
3. 分层记忆(支柱二):产品格局与"基准危机"。 2026 年头部格局(综合 https://sokko.ai/blog/ai-agent-memory-frameworks 、https://hamzashabbir.dev/article/ai-agent-memory-layer-mem0-vs-letta-vs-zep 、https://automem.ai/blog/agent-memory-in-2026-an-honest-comparison-of-mem0-zep-letta-and-the-rest ):
| 系统 | 架构取向 | 强项 | 弱项 |
|---|---|---|---|
| Mem0 | 事实抽取+去重的记忆层 | 快、干净的事实卡;宣称 LoCoMo ~92.5% | LoCoMo 结果被 Zep 公开质疑;延迟与索引稳定性被抱怨 |
| Zep / Graphiti | 时序知识图谱 | "何时为真"的时序推理最强 | 建图成本、查询重 |
| Letta(MemGPT 一脉) | agent 自管记忆块 | 灵活、记忆即运行时 | 延迟与复杂度最高(LoCoMo 得分约 74% 一档) |
| 厂商原生 | Anthropic memory tool(文件落盘,2025-09 与 Sonnet 4.5 同发)、ChatGPT Memory、Claude Code 记忆文件 | 零集成成本 | 通用型,领域记忆需自建 |
最刺眼的失效是基准信任危机:Mem0 宣称 LoCoMo SOTA 后遭 Zep 公开反驳(指控错误配置对比对象);2025-12 Penfield Labs 审计发现 LoCoMo 答案键约 6.4% 本身错误、LLM 裁判对故意错误答案的放行率高达 63%;社区转向 LongMemEval,而 Mem0/Letta 至今未公布该基准成绩(评测方法示例:https://github.com/maximem-ai/eval_benchmark_runs_output/blob/main/METHODOLOGY.md)。与纵轴的采用成功叙事(1200+ 引用、2400 万美元融资)合起来看,结论是:产品叙事跑在可验证证据前面——采用与危机并存,选型必须自建评测。
4. 上下文压缩(支柱一):从民间技巧变成 API 原生能力。 官方化:Anthropic context editing + memory tool(2025-09,性能 +39%、token 最多降 79%,见纵轴阶段三)。算法派:微软 LLMLingua 家族最高 20x 压缩,2025 复测显示 2–4x 压缩比下性能退化最小(https://github.com/microsoft/LLMLingua)。实战派:Manus 给出压缩之外的第四条路——结构保留(前缀稳定 + append-only + 文件系统当外部记忆 + recitation,见纵轴阶段三)。失效实录见纵轴编年(2025 年三连 issue → 2026 年跨生态"压缩即失忆");社区对策:手动 /compact、计划文件、hook 注入记忆(https://www.reddit.com/r/ClaudeCode/comments/1rfbtyv/do_you_compact_how_many_times)。压缩的失效本质:有损操作在错误时机执行,且压缩器(LLM 自己)不知道哪些信息是任务关键。
5. 隔离与多智能体:2025 年最著名的路线之争。 争论经过与数据(+90.2% / 15x token)见纵轴阶段二;2026 年的实践共识趋近"按任务形状选择":可并行分解的广度型研究用多 agent,需连贯决策的深度型任务用单 agent + 压缩/记忆(第三方分析:https://xagi.in/blog/cognition-vs-anthropic-dont-build-multi-agentshow-to-build-multi-agents)。Anthropic 自己也承认 effort 缩放是最大难点:简单事实查证 1 个 agent、复杂研究 10+ 个。
6. 替代范式·微调内化:"用参数代替上下文"。 奠基结论:RAG 一致优于无监督微调来注入新知识与旧知识(arXiv《Fine-Tuning or Retrieval?》:https://arxiv.org/html/2312.05934v3)。2026 年共识是"多数团队不该微调":LoRA/QLoRA 只用于行为/格式/风格内化,事实交给 RAG,混合架构成为企业标准(https://bigdataboutique.com/blog/fine-tuning-llms-when-rag-isnt-enough 、https://www.actian.com/blog/databases/should-you-use-rag-or-fine-tune-your-llm);简单的"知识常变用 RAG、稳定用微调"启发式正被更精细的成本-频率分析取代。失效:知识漂移后需全量重训;微调数据投毒直接写入参数、无上下文层可审计。
7. 横切底座·KV-cache 工程。 Manus 确立的底线共识:前缀稳定(避免时间戳)、上下文只追加不修改、用"掩码工具"而非"移除工具"——否则缓存失效、成本瞬间翻 10 倍。任何压缩/记忆方案的设计都必须为缓存命中率让路,这是 2025 年才被广泛写进工程文档的硬约束。
2.4 安全失效专节:上下文成为攻击面
2025-12 PromptPwnd(经 GitHub Actions 注入 Gemini CLI)、IDEsaster(Copilot/Gemini CLI/Claude Code 连环漏洞)、2026-08 AGENTS.md 型配置文件投毒(agent 读入即被劫持外传密钥)、MCP 工具元数据投毒(用户不可见、模型可见)、隐藏 HTML 注入使 15–29% 的输出场合被改变(综合来源:https://blog.intelligencex.org 、https://amux.io/guides/ai-agent-security-hardening)。与纵轴的记忆投毒(OWASP LLM04)合流为一条主线:上下文供给面(MCP、记忆、配置文件)已是新攻击面,且注入一旦进入持久记忆即跨会话存活。
三、交叉洞察:两轴结合说明了什么
3.1 两轴共同印证的最新共识(合并去重后七条)
合并纵轴小结的六条与横轴第五节的五条,去掉重复后:
- 上下文是有限资源,按"注意力预算"管理(Anthropic 2025-09、LangChain、Manus 三方独立趋同)——"窗口塞满"思维已被放弃。
- KV 缓存命中率是 agent 成本/延迟的第一性指标:稳定前缀、追加式编辑、缓存友好优先(Manus 2025-07 + 各家 prompt caching 定价)。
- 检索共识配方:上下文富化 + 向量/BM25 混合 + 重排序;能搜索就不硬塞、能放文件就不放窗口;2025–2026 重心进一步移向 JIT 探索与"文件系统即上下文"(Anthropic 2024-09、Manus、Mastra/deepset 2026 指南),并与 Karpathy 的"LLM wiki"设想相呼应——Karpathy 2026-04 提出让 LLM 把检索所得持续编译、维护成自有 wiki 式知识库,而非每次现查(gist:https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f)。
- 压缩是必要的恶:分层压缩(微压缩 → 自动压缩 → 手动)+ 结构化笔记/外部文件补偿;把错误与关键决策留在上下文(keep the tails);用增量 delta 更新而非整段重写(ACE 2025-10)。
- 记忆共识:工作记忆在窗口内、情景记忆用文件/记忆工具、语义记忆用检索库;跨会话记忆必须可审计、可清除(防记忆投毒,OWASP LLM04)。
- 隔离是规模化手段但不是免费午餐:子 agent/团队化隔离上下文,必须显式设计上下文交接与 token 预算。
- 最佳实践已被平台"官方收编"为 API 原生能力(Anthropic 2025-09 的 context editing/memory tool;MCP 基金会化)——护城河从"知道技巧"变成"会调参数 + 知道边界"。
3.2 仍未解决的四大分歧
- 单 agent vs 多 agent(Cognition vs Anthropic,2026 年未有定论,按任务形状选边);
- 图谱 RAG 的性价比(多跳优势 vs 建图成本,社区共识仅限"关系密集数据才值得");
- 记忆层怎么评测(LoCoMo 已失信,LongMemEval 未被全部厂商接受);
- 长上下文与 RAG 的边界(基准上长上下文可赢,成本与真实语料规模上 RAG 仍赢,2026 年主流是"检索 + 大窗口"混搭)。
3.3 失效驱动的创新循环:历史规律与当下证据互为镜像
纵轴的叙事规律——每次方法爆发前 6–18 个月都有一份失效证据——与横轴的共时对比互为镜像:
| 失效证据(时间) | 逼出的方法(时间) |
|---|---|
| Lost in the Middle(2023-07) | Contextual Retrieval 与位置工程(2024-09) |
| Claude 2.1 大海捞针打脸(2023-11)→ RULER(2024-04)→ NoLiMa(2025-02) | "有效窗口"评测标配化;检索成为默认而非可选项 |
| prompt caching 定价(2024-08/10) | Manus 六条与 KV-cache 前缀工程(2025-07) |
| 多轮碎片化退化 39%(2025-05) | context editing / memory tool API 化(2025-09) |
| compaction 失忆 issue 连发(2025–2026) | 三层压缩管线、结构化笔记、计划文件(2026) |
| LoCoMo 审计危机(2025-12) | 评测转向 LongMemEval、自建评测(2026) |
| 记忆投毒(2024-09 起)→ 上下文投毒(2025-12 起) | 记忆可审计可清除、配置文件按不可信输入处理 |
注:表中配对是叙事性归纳,非严格因果论证——尤其"多轮碎片化退化 39%(2025-05)→ context editing / memory tool API 化(2025-09)"一行属同期并现:context editing 的官方动机是清除陈旧工具结果(见纵轴阶段三),与多轮退化并无已论证的因果;"39%"与"+39%"亦为数字巧合(见附录"综合校准记录"第 5 条)。
推论:想预测下一年的最佳实践,就盯住当下最新的失效报告——下一个共识正藏在最痛的 issue 里。
3.4 三个结构性判断
- "名义容量 vs 有效容量"的落差没有消失,只是换了战场。 2023–2024 的战场是检索与召回,2025 是注意力预算与压缩,2026 是 harness 工程(压缩管线、记忆文件、agent teams)与协议(MCP 无状态化)。窗口军备竞赛事实上停火(2026 旗舰停在 1M 量级),但有效容量仍在快速提升——提升全部来自 harness(纵轴结论)与路线组合(横轴矩阵)。
- 争论的收敛模式是"决策树化",而非"赢家通吃"。 单/多 agent、长上下文 vs RAG、微调 vs RAG 三场争论都以混合架构和按任务形状选择告终。2026-10 截面的"最新共识"不是某个单一技术,而是一条分层决策树——能 JIT 检索的不预载;预载的必须可压缩;压缩的必须保状态;跨会话的进分层记忆;一切之上先算 KV-cache 账;每层都有已公开的失效案例,设计文档应当直接引用它们作为反模式清单。
- 评测是全领域最薄弱的一环。 NoLiMa 证明高分靠词面捷径,LoCoMo 证明答案键与 LLM 裁判都不可靠,RULER 证明标称虚标——三条证据共同说明:任何厂商基准数字都不能直接采信,失效案例集是比成功案例集更可靠的工程依据。
3.5 对用户的判断与建议
- 按决策树排工程优先级:先把 KV-cache/前缀稳定做对(10 倍成本杠杆),再上检索配方(富化 + 混合 + rerank),最后才是压缩与记忆——这与历史爆发顺序一致,颠倒了会先烧钱后返工。
- 多 agent 保守化:默认单 agent + 压缩/记忆;只在可并行分解的广度型任务上启用多 agent,并接受约 15 倍 token 预算、显式设计交接——2026 年 agent teams 的方向是"结构化隔离"而非"自由并行"。
- 评测先行、反模式清单进设计文档:把失效四分类(poisoning/distraction/confusion/clash)、压缩失忆、记忆投毒、LoCoMo 危机当反模式清单直接引用;任何压缩/记忆选型先在 LongMemEval 式基准 + 自有任务上回归测试。
- 安全按"持久化攻击面"处理:AGENTS.md/CLAUDE.md、MCP 工具元数据、检索语料都按不可信输入对待;跨会话记忆必须可审计、可清除、可回滚。
- 不要为了窗口换模型:2026 年旗舰窗口趋平(1M 量级),有效容量提升来自 harness;迁移成本应投在压缩管线、检索与记忆文件上,而非追逐窗口参数。
- 微调只做行为不做事实:事实性知识交给 RAG + 记忆,参数内化仅用于风格/格式/稳定行为——知识一变微调即失效,且投毒无审计层。
四、参考来源(两章合并去重)
命名与框架
- Karpathy 推文(2025-06):https://x.com/karpathy/status/1937902205765607626 ;Simon Willison 存档:https://simonwillison.net/tags/tobias-lutke/ ;2026 演进:https://thecontextgraph.co/memos/context-engineering-2026-from-tweet-to-infrastructure ;Firecrawl 科普:https://www.firecrawl.dev/blog/context-engineering ;LLM wiki gist(2026-04):https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
- LangChain 四动词框架:https://blog.langchain.com/how-to-think-about-context-engineering/ ;https://www.langchain.com/blog/context-engineering-for-agents ;代码库:https://github.com/langchain-ai/context_engineering
一线工程实践
- Manus(季逸超):https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus
- Anthropic:Effective context engineering(2025-09-29):https://www.anthropic.com/research/effective-context-engineering-for-ai-agents (转述:https://www.marktechpost.com/2025/10/20/a-guide-for-effective-context-engineering-for-ai-agents)
- Anthropic:多 agent 研究系统:https://www.anthropic.com/engineering/built-multi-agent-research-system (旧路径:https://www.anthropic.com/research/multi-agent-research-system)
- Cognition(Walden Yan):Don't Build Multi-Agents(2025-06-12):https://cognition.com/blog/dont-build-multi-agents (旧域名 cognition.ai 重定向至此);第三方分析:https://xagi.in/blog/cognition-vs-anthropic-dont-build-multi-agentshow-to-build-multi-agents
- 2026 生态指南:https://sourcegraph.com/blog/context-engineering ;https://mastra.ai/articles/context-engineering ;https://haystack.deepset.ai/blog/context-engineering ;https://www.elastic.co/search-labs/blog/context-engineering-relevance-ai-agents-elasticsearch
失效、评测与安全
- Chroma Context Rot:https://research.trychroma.com/context-rot (镜像:https://blog.rdcl.is/2025/07/17/context-rot-how-increasing-input.html)
- Drew Breunig 失效四分类:https://www.dbreunig.com/tags/ai.html
- Claude Code issues:https://github.com/anthropics/claude-code/issues/6123 ;…/issues/13112 ;…/issues/18866 ;…/issues/47019 ;r/ClaudeCode 讨论:https://www.reddit.com/r/ClaudeCode/comments/1rfbtyv/do_you_compact_how_many_times
- 其他框架 issue:https://github.com/openai/codex/issues/20287 ;https://github.com/earendil-works/pi/issues/2383 ;https://github.com/microsoft/agent-framework/issues/4991 ;Claude Code 逆向拆解:https://kotrotsos.medium.com/claude-code-internals-part-13-context-management-ffa3f4a0f6b4 ;五级压缩拆解:https://harrisonsec.com/blog/claude-code-context-engineering-compression-pipeline ;Inside Claude Code(Victor Dibia):https://newsletter.victordibia.com/p/inside-claude-code
- 记忆层对比与 LoCoMo 危机:https://sokko.ai/blog/ai-agent-memory-frameworks ;https://hamzashabbir.dev/article/ai-agent-memory-layer-mem0-vs-letta-vs-zep ;https://automem.ai/blog/agent-memory-in-2026-an-honest-comparison-of-mem0-zep-letta-and-the-rest ;https://github.com/maximem-ai/eval_benchmark_runs_output/blob/main/METHODOLOGY.md
- 长上下文 vs RAG:https://arxiv.org/html/2501.01880v1 ;https://pub.towardsai.net/rag-vs-long-context-in-2026-when-retrieval-still-wins-e6ebad9a4096 ;https://www.databricks.com/blog/long-context-rag-performance-llms
- 安全:PromptPwnd:https://blog.intelligencex.org ;Agent 安全加固 2026:https://amux.io/guides/ai-agent-security-hardening ;记忆投毒报道:https://arstechnica.com/civis/threads/false-memories-planted-in-chatgpt-give-hacker-persistent-exfiltration-channel.1503132/ ;Claude 2.1 打脸实测:https://news.ycombinator.com/item?id=38365934 ;多 agent 失效统计(MAST):arXiv:2503.13657
论文
- GPT-3:arXiv:2005.14165;RAG 原始论文:arXiv:2005.11401;Generative Agents:arXiv:2304.03442;Lost in the Middle:arXiv:2307.03172;MemGPT:arXiv:2310.08560;Gemini 1.5 技术报告:arXiv:2403.05530;RULER:arXiv:2404.06654;GraphRAG:arXiv:2404.16130;NoLiMa:arXiv:2502.05167;多 agent 失效研究(MAST):arXiv:2503.13657;多轮对话退化:arXiv:2505.06120;Context Engineering Survey:arXiv:2507.13334;Mem0:arXiv:2504.19413;MemOS:arXiv:2507.03724;ACE:arXiv:2510.04618;HippoRAG 2《From RAG to Memory》(2025-02);微调 vs RAG:https://arxiv.org/html/2312.05934v3 ;图谱索引不完整:https://huggingface.co/papers/2601.08773 ;LLMLingua:https://github.com/microsoft/LLMLingua
平台与协议
- MCP:https://modelcontextprotocol.io ;一周年规范回顾:https://blog.modelcontextprotocol.io/posts/2025-11-25-first-mcp-anniversary ;2026-07-28 规范:https://blog.modelcontextprotocol.io/posts/2026-07-28 ;Linux Foundation 捐赠:https://www.diginomica.com/anthropic-openai-and-block-donate-ai-agent-projects-new-linux-foundation-body
- Anthropic 产品:Claude Sonnet 4.5:https://www.anthropic.com/news/claude-sonnet-4-5 ;Claude Opus 4.6:https://www.anthropic.com/news/claude-opus-4-6 ;context editing 文档:https://platform.claude.com/docs/en/build-with-claude/context-editing ;memory tool 文档:https://platform.claude.com/docs/en/agents-and-tools/tool-use/memory-tool
- OpenAI:ChatGPT 记忆:https://openai.com/index/memory-and-new-controls-for-chatgpt ;prompt caching:https://openai.com/index/api-prompt-caching
- Google:Gemini 1.5 发布:https://blog.google/innovation-and-ai/products/google-gemini-next-generation-model-february-2024
- 窗口规格:https://ai.meta.com/blog/llama-4-multimodal-intelligence ;https://raoinformationtechnology.com/ai-context-window-comparison-2025 ;https://www.vellum.ai/blog/flagship-model-report
成本与图谱
- GraphRAG 成本与综述:https://flamehaven.space/writing/graphrag-wont-give-your-ai-a-brain-heres-what-twelve-papers-actually-say ;https://www.linkedin.com/posts/pauliusztin_heres-something-i-had-to-learn-the-hard-activity-7433141660039102464-UT8Y ;https://www.falkordb.com/reference/why-rag-projects-never-reach-production ;LightRAG:https://www.linkedin.com/pulse/lightrag-better-approach-graph-enhanced-generation-holt-nguyen-hfx2c
- 微调 vs RAG 补充:https://bigdataboutique.com/blog/fine-tuning-llms-when-rag-isnt-enough ;https://www.actian.com/blog/databases/should-you-use-rag-or-fine-tune-your-llm
- 2026 现状综述:https://towardsai.com/p/machine-learning/context-engineering-the-6-techniques-that-actually-matter-in-2026-a-comprehensive-guide ;https://atlan.com/know/ai-agent/context-engineering/context-engineering-techniques-ai-agents
附录:综合校准记录(两章矛盾与重复的处理)
- Chroma《Context Rot》链接不一:纵轴用镜像(blog.rdcl.is),横轴用官方(research.trychroma.com)→ 以官方为主、镜像保留。
- Anthropic 多 agent 报告两个 URL(/research/… 与 /engineering/…)→ 判定为同一报告的站点改版路径,以 /engineering/ 为准,旧路径保留备注。
- RULER 结论两种表述("有效上下文普遍远低于标称" vs "约一半模型撑不住标称窗口")→ 合并为同一基准的两层口径,结论一致。
- 纵轴阶段〇内部时间线问题:标题写 2020–2022,却列入 2023 年 4 月的 Generative Agents(且标"待核")→ 校准为"史前积累(2020–2023 初)",时间按 arXiv 编号 2304.03442 落实。
- "39%"一词两义:多轮碎片化退化 39%(arXiv:2505.06120)与 Anthropic context editing "+39% 性能" → 两处均已标注,防止混淆。
- 压缩失效案例两章各列一批(横轴:2025 年 Claude Code #6123/#13112/#18866 与社区对策;纵轴:2026 年跨生态 issue 与过度压缩)→ 合并为同一条"纵轴失效编年",按时间排列,横轴 D 路线引用之。
- 记忆线两章侧写相反(纵轴:Mem0 融资 2400 万美元/1200+ 引用的成功叙事;横轴:LoCoMo 基准危机)→ 合并为"采用成功与评测危机并存"。
- 窗口规格取自不同时点(横轴 2025:Llama 4 Scout 宣称 10M、GPT-4.1 1M;纵轴 2026:Gemini 3 Pro 1M、GPT-5.2 约 196K)→ 统一为时间线呈现,Llama 4 Scout 的 10M 保留"宣称"限定。
- 重复主题六处合并:Karpathy 定名、LangChain 四动词、Manus 六条、单/多 agent 之争、Sonnet 4.5 API 能力、context rot——正文只详述一次,其余位置交叉引用;两章各自的共识清单(纵轴六条 + 横轴五条)合并为 3.1 的七条。