题记与说明
收藏理由:Anthropic 官方上下文工程奠基文(2025-09),把上下文当有限资源讲 compaction、记忆与子代理架构,与我关注的 Agent 系统方向直接对齐。
| 项目 | 内容 |
|---|---|
| 标题 | Effective context engineering for AI agents |
| 作者 | Anthropic Applied AI 团队(Prithvi Rajasekaran、Ethan Dixon、Carly Ryan、Jeremy Hadfield 执笔,Rafi Ayub 等参与) |
| 来源 URL | https://www.anthropic.com/research/effective-context-engineering-for-ai-agents |
| 存档日期 | 2026-10-29 |
| 标签 | Agent系统 · 上下文工程 · LLM · AI编程工具 · 知识管理 |
这篇讲什么
当 AI 从一次性任务走向多轮长时程的 Agent,只在措辞层面打磨 prompt 已经不够。Anthropic 提出真正要优化的是上下文——每次推理进入模型窗口的全部 token(系统指令、工具、MCP、外部数据、历史消息);上下文工程就是为有限窗口挑选内容并循环精炼的艺术与科学。
核心观点
- 上下文是边际收益递减的有限资源。 "context rot" 研究表明 token 越多、模型召回越不准;transformer 注意力是 n² 成对关系,每个新 token 都在消耗"注意力预算"。
- 好上下文 = 最小的高信号 token 集合。 系统提示要写在"恰当高度";工具集要克制——"人类工程师都说不清该用哪个工具,就别指望 Agent 选对";示例贵精不贵多。
- 检索从"预取"走向 just-in-time。 Agent 持有轻量引用(文件路径、查询、链接)运行时按需加载,正如人类靠文件系统与书签检索,而非死记语料库。
- 长时程任务有三根杠杆: compaction(摘要后重启窗口,Claude Code 只留压缩上下文加最近五个文件)、结构化笔记(NOTES.md 写到窗口外做持久记忆)、子代理架构(深挖数万 token,只回传浓缩结论)。
最值得记住的金句与数据
- "Context must be treated as a finite resource with diminishing marginal returns."——上下文是边际收益递减的有限资源,全文总纲。
- "the smallest possible set of high-signal tokens"——好上下文的定义:找到最小的高信号 token 集合。
- 子代理账本:单个子代理可消耗数万 token 探索,回传主代理的浓缩摘要往往仅 1,000–2,000 token——用隔离空间换主上下文质量。
对我的启发
- Agent 系统:压缩、笔记、子代理是三块可直接套用的积木——多轮对话选压缩,里程碑式开发选笔记,并行研究选多代理。
- AI 编程工具:Claude Code 的混合模式值得照抄——CLAUDE.md 前置加载,glob/grep 运行时按需检索;写工具先问"最小可用工具集是什么"。
- 个人知识管理:文章论证"外部索引 + 按需检索"优于全量塞入——目录名、标签、时间戳本身就是供未来检索的高信号 token。
- 写作:提示词的"恰当高度"也是写作原则——具体到可执行,留白到可迁移;一个好示例胜过一千条规则。
适合谁读
正在搭建 Agent/LLM 应用的工程师、想把 Claude Code/Codex 用出深度的人、关注 agentic memory 的知识管理爱好者。