智能体应当遗忘什么?区分存储内容与使用内容
arXiv cs.AI · · 发布于 2026-09-11 · 3 分钟阅读
针对持久化语言智能体在长期记忆中面临的事实更新问题,论文提出免训练框架 RD-Forget,将“存储什么”与“使用什么”分离:保留的源档案保存原始观测,以查询为条件的记忆视图控制其对当前回答的影响。冻结的语言模型管理者负责抽取相关证据、将事实归入语义槽,并保留多跳推理所需的关系;同槽替换链接在当前状态语境中抑制被取代的取值,意图感知检索又能让较早的证据重新可用。速率—失真公式在给定记忆预算内指导回答时视图的构建。实验覆盖对话记忆、知识更新、事实整合、长上下文推理与个性化,共用同一回答流程。结果显示,准确回答既依赖与查询相关的证据构建,也依赖对过时备选信息的控制;缺少遗忘机制或查询条件化的配置得分下降最为明显,而语义槽分组、历史访问与关系保留分别提供互补作用。
当前来源仅提供摘要,以下要点基于摘要生成;可通过官方原文查看完整信息。研究问题
持久化语言智能体需要跨时间保留存储的经验,但每一次回答都需要契合特定问题的证据,二者之间存在张力。
核心矛盾
一个已被取代的事实可能误导关于当前状态的回答,同时仍可能是历史查询不可或缺的证据。
提出方法
作者提出 RD-Forget,一个免训练框架,将智能体“存储什么”与“使用什么”加以分离。
源档案与记忆视图
保留的源档案负责保存观察记录,查询条件化的记忆视图则控制这些记录对当前回答的影响。
策展器机制
冻结的语言模型策展器提取相关证据,把事实分组到语义槽,并保留多跳推理所需的关系。
过时值抑制与再激活
同槽替换链接在当前状态语境中抑制被取代的取值,意图感知检索使更早的证据重新可用。
预算约束
率失真公式在记忆预算之内指导回答时视图的构建。
实验范围
实验覆盖对话记忆、知识更新、事实整合、长上下文推理与个性化,并共用同一回答流程。
主要结果
准确回答与查询相关的证据构建、以及对过时替代项的控制同时相关;不含遗忘或查询条件化的配置得分缺口最大。
功能互补性
语义槽分组、历史访问与关系保留各自贡献互补的功能。
结论取向
在保留历史的同时选择性控制其使用,为兼顾变化的事实与未来的问题提供了一条实用路径。