知识库导读 · 约 1,553 字 · 预计推送 1 部分

Memory for agents — 导读 未开始

目录

元信息

这篇讲什么

这是 Harrison Chase「Harrison's In the Loop」系列里专讲记忆的一篇(2024-10-19,5 分钟读完)。作者在 Sequoia AI Ascent 大会上提出 agent 三大局限:规划、UX、记忆;前几篇讲完了规划和 UX,这篇补上记忆这块拼图。核心问题很朴素:LLM 本身不会记住任何东西,记忆必须有意加进去——那到底该怎么加?

核心观点

  1. 记忆是 application-specific 的。Replit 的编程 agent 该记住用户爱用哪些 Python 库,Unify 的调研 agent 该记住用户在研究哪些行业——「记什么」和「怎么记」都因应用而异,所以 LangChain 的路线是给低层抽象(Memory Store),不替你做决定。
  2. 三类记忆框架(借 CoALA 论文,Sumers et al. 2024):程序性记忆 = LLM 权重 + agent 代码(实践中最接近的形态是让 agent 自己改 system prompt,但少见);语义记忆 = 关于世界的事实库(最常见用法是个性化:用 LLM 从对话中抽取信息,之后检索进 system prompt);情景记忆 = 过往动作序列(实践中就是 few-shot 示例,攒够了可以做动态 few-shot)。
  3. 两种写入方式各有取舍:hot path(响应前靠 tool calling 显式写入,ChatGPT 的做法)代价是增加延迟、记忆逻辑和 agent 逻辑耦合;background(后台进程在对话中/后更新)没有延迟、逻辑分离,但记忆不即时生效,还得设计触发时机。此外用户反馈(如点赞)也是写入情景记忆的一条路。

最值得记住

对我的启发

适合谁读

在做 agent/LLM 应用、要给产品加记忆功能的开发者;想要一个清晰记忆分类框架而不是直接抄 ChatGPT 做法的人;关注个人知识管理、想借 agent 记忆设计反哺自己笔记系统的人。概念密度高但门槛低,先读 CoALA 论文的这个 ELI5 版再决定要不要啃原文。

← 资料库今日播报 →