给AI Agent搭一个会忘记的记忆库
周末折腾了一下AI Agent的记忆库,踩了不少坑。AI Agent 说白了就是会自己查资料、记东西、执行任务的助手。起因是看到 Machine Learning Mastery 一篇讨论 agent memory design 的文章,也就是 AI Agent 怎么设计记忆。文章说现在的记忆系统很脆,像把人脑的遗忘功能拿掉了。我这边测下来:演示里它什么都记得,真实业务里它会被旧事实拖死。
文章核心我消化成三件事:短期记忆别太长,也就是别把上下文塞满;上下文就是 AI 一次能看的对话范围。长期记忆别太杂,检索必须能验证。从资产配置角度看,记忆库不是仓库,是资产负债表。每条记录都有成本:存储、检索、误用、过期。这几天我做了个最小版本:只用本地文件夹和一个能读文件的助手,先把流程跑通。
准备阶段。
1. 打开终端,也就是电脑里的命令行窗口,输入 `mkdir ~/agent-memory`,再输入 `cd ~/agent-memory`。你会看到命令提示符变短,说明已进入目录。
2. 输入 `touch raw.md facts.md decisions.md rules.md`,建四个空文件。`raw.md` 放原始对话,`facts.md` 放可复用事实,`decisions.md` 放结论,`rules.md` 放记删规则。
3. 用编辑器打开 `rules.md`,写入三条规则:只记会影响下次行动的信息;每条事实要有来源和有效期;冲突时新条目覆盖旧条目,旧条目只标废弃。预期结果是你有一个约束 AI 的说明书。
上手阶段。
4. 把一段真实对话贴进 `raw.md`。可以是会议、客服、项目讨论。这两天在试 STT,也就是把语音转成文字,把记录丢进去,发现如果整段塞进记忆库,三天就乱。
5. 打开 Claude Code 的输入框,粘贴:`读取 raw.md,抽取不超过5条可复用事实。格式:事实、来源、有效期、置信度、是否建议写入。不要抽取闲聊和情绪。` 置信度就是它有多大把握。它会返回一段带项目符号的文本,格式叫 Markdown。预期不是直接写进文件,而是先给你候选项。
6. 人工审核。只保留能改变未来决策的条目。比如“客户预算上限是某个区间”可以记。把审核后的条目复制进 `facts.md`。
7. 给每条事实加状态。模板:`- 事实:。;来源:raw.md 对应段落;有效期:30天;状态:当前`。过期后改成 `状态:已废弃`。这个动作看起来笨,但它是记忆系统的地基。
8. 下次对话前输入:`读取 facts.md 和 decisions.md,只使用状态为当前的条目。引用事实需说明来源。` 预期结果是它不再把整段历史塞进上下文,而是按需取用。
9. 每次任务结束,把最终结论写进 `decisions.md`。格式:结论、依据、未确认事项。这一步把聊天变成证据链。
踩坑阶段。
第一个坑是把原始记录当记忆。原始记录像监控录像,记忆像会议纪要。全存等于没存。
第二个坑是没有过期。TTL 就是每条记忆自带过期时间。
一个没有 TTL、没有衰减、没有覆盖机制的记忆库,演示里很惊艳,到了真实世界就会随着变化速度退化。
我刚上手谷歌搜索这几天,也有类似感觉:AI 概览给摘要,但原始蓝链,也就是搜索结果里的原始链接,要自己下翻找。记忆库也一样,事实卡旁边必须能回到 `raw.md`。
第三个坑是只靠语义检索,也就是按意思找,不是按关键词找。把句子变成向量坐标,就是把文字转成一串数字,按相似度找。它只负责找相似,不负责判断对错。
第四个坑是权限没分级。我客户那边用 AI 简历工具时,HR 权限一旦混用,自动更新就会把候选池搅乱。记忆系统同理,谁能写、谁能改、谁能废弃,必须提前分清楚。
结论先放这里:AI Agent 的记忆,不是记住更多,而是知道什么时候不该信自己。从商业模式看,记忆不是功能,是长期资产。从风险收益比看,一个会忘记的系统,胜过一个永远记住但经常引用旧事实的系统。之前我觉得雷鸟iO的价值在录音数据,现在想法更具体:数据越多,越需要边界,否则污染越快。
往后看,真正拉开差距的不是聊天,而是谁能把对话沉淀成可审计、可过期、可复用的工作流数据。托管记忆服务,也就是别人帮你存记忆的服务,会越来越多,但别人难复制的优势不在能存,而在能判断哪些信息值得进入下一次决策。
学完这个,下一步可以试把 `facts.md` 变成小型检索库:先用关键词过滤,再试向量检索;或者把 `decisions.md` 接入你常用的终端,让每次任务结束自动追加一条结论。先把记录、审核、过期、引用四步跑顺。
📌 本文编译自 Machine Learning Mastery,原文:https://machinelearningmastery.com/ai-agent-memory-design-what-works-and-what-doesnt/
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿