跳到正文
IFAI

AI科研

Anthropic 详解 Claude 记忆机制:让智能体靠「做梦」自动纠错

首次发布 传播指数 80

Anthropic 提出名为「做梦」的智能体记忆机制,让 Claude 在任务间隔的空闲时间复盘历史日志,自动修正错误笔记并提炼长期规则。这模拟了人类睡眠时的记忆巩固,核心在于让 AI 学会判断什么才值得记,而不是盲目把所有细节塞满上下文。

Anthropic 详解 Claude 记忆机制:让智能体靠「做梦」自动纠错
图:anthropic.com

人睡觉的时候,大脑的海马体在悄悄回放白天的经历,把琐碎的短期记忆筛成稳固的长期常识。以前的 AI 智能体可没这个待遇,要么聊完下一秒彻底失忆,要么把见过的一切死板地存进数据库,最后把自己活活撑死。

Anthropic 公开了一套关于智能体记忆机制的研究。核心结论很简单:决定 AI 聪明程度的不是它记了多少东西,而是它懂不懂得丢掉无用信息,以及在空闲时间怎么靠「做梦(Dreaming)」把自己记错的常识纠正过来。

记太多反而拖后腿

很多人以为给智能体挂一个外部文件夹,让它随意写笔记就能解决长期记忆问题。Anthropic 做了一个有趣的对照实验:让不同版本的模型去玩《宝可梦:红》。

早期的 Claude Sonnet 3.7 是个典型的囤积狂。它觉得什么都有用,把遇见的每一个 NPC、捡到的每样道具、打过的每场战斗都单独建一个文件。走到一万步时,它一共写了 413 个文件,塞了 225 个文件夹,整整 98 万字,结果手里只拿到 1 枚徽章。

更讽刺的是,由于游戏画面每一步都在变,这些笔记刚写完就过时了。第 10000 步左右,Sonnet 3.7 为了整理这堆烂摊子,连续 17 步都在建文件和删文件,根本不打游戏。

换到 Claude Fable 5,画风完全变了。它只存了 9 个文件和一份全局大纲,总共才 4.3 万字,却一口气拿下了 4 枚徽章。屏幕上能直接看到的信息,比如金币多少、人在哪里,它通通不记;它只记自己悟出来的策略,比如抓鲤鱼王连丢三个球都没中,就记上一条「连续三次失败后,按键之间多停顿一拍」。

后来的 Opus 5.5 同样遵循这套极简笔记法则,最后直接通关了游戏。在 CL-Bench 跨会话任务里,强行规定「只许记录失败」反而会把 Opus 5 的分数拉低;只要模型本身足够聪明,放手让它自己判断什么值得记,效果反而最好。

趁空闲把错改过来

光会挑重点还不够,万一智能体第一次就记错了怎么办?

在宝可梦的月见山洞窟前,有一处只能单向跳下的悬崖。Claude 在摸索时把宝可梦中心的位置记反了,误以为已经穿过了洞窟。它从建筑里走出来直接跳下了悬崖,回到了起点,却因为导航工具看不出落差,坚信自己走对了。

在没有外力干预的测试里,Claude 连续跳崖三次,最后彻底丧气,写下一句「我不想再无限循环了」就原地摆烂。直到实验结束,它都没能走到华蓝市。

这时候就轮到「做梦」上场了。所谓做梦,就是让模型在任务间隔的空闲时间,把外部笔记拿去和原始执行日志逐一核对。日志是发生过的客观事实,笔记则是主观提炼出来的想法。通过回放比对,Claude 找到了错记位置的证据,重新修改了路线笔记,再次出发后顺利穿过洞穴到达了华蓝市。

做梦还能把零散的笔记整理成百科全书。Anthropic 拿软件公司 Stainless 的 35 万份内部文档(约 4.2 亿 token)做测试,让 Claude 用 128 个会话在空闲时逐渐搭建结构化 Wiki。最终,它在多文档问答上的准确率从 13% 飙升到了 48%;在复杂的并购资料问答里,靠 Wiki 拿到了 87% 的正确率,远高于传统搜索的 73%。

为什么重要

长久以来,业内做 AI 记忆的主流做法是给模型接上向量数据库,拼命把对话切片存进去。这种做法本质上是把记忆当成了储藏室,最后不仅检索成本高昂,模型还极容易被自己以前写下的胡话带偏。

Anthropic 这篇研究走了一条更接近人类认知的路。它把记忆拆成了原始日志、提炼笔记、结构化 Wiki 和当前上下文四层,并把最费劲的修剪和纠错放到了离线时间。我们认为这一步走得相当巧妙,它让模型从单纯的「执行者」变成了会自我复盘的「打工人」。

不过对于开发者来说,现在直接照搬这套方案门槛不低。离线复盘看似优雅,但「做梦」消耗的算力依然是真金白银。而且在 35 万份文档的测试中,48% 的准确率虽然比过去翻了倍,但离企业级落地显然还有一段距离。

但这给整个行业定了一个新的竞争方向:下一阶段的大模型竞争,拼的不再是谁能塞进几百万 token 的单次窗口,而是看谁能在长期运行中像人类一样,既能睡个好觉把旧账算清,又能轻装上阵投入下一次任务。

来源 (6)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com
  2. [2]
    x.com(在新标签页打开)讨论x.com
  3. [3]
    x.com(在新标签页打开)讨论x.com
  4. [4]
  5. [5]
  6. [6]

每日 AI 内容精选