同一天的另一篇论文换了提问方式,不问这条记忆内容可不可疑,而问把它抽掉之后智能体的行动会不会变。作者 12 人,框架叫 DriftGuard,做的是在线记忆漂移检测,代码已放出。

两个难点写得很直白。内容特征不够用,困惑度或检索相关度判断不了一条记忆是否会改变行为;反事实归因又太贵,每条候选记忆都重放一遍下游执行,实时预算吃不消。

两类记忆投毒,成功率被压到个位数 直接覆盖 Mem2ActBench 无防御 46.68% 5.28% 休眠记忆 Mem2ActBench 无防御 77.41% 3.25% 在线单任务 1.52 秒、986 个 token 对比方案 6.19 秒、2603 个 token 离线三轮回放,在线不再回放 来源 arXiv 2611.25583,2026-11-19
图 1|灰条是无防御时的攻击成功率,绿条是加上检测之后的残留。

办法是把离线监督与在线估计拆开。离线阶段从同一个动作前状态出发,成对重放原始轨迹与只中和一条记忆的轨迹,把行动改变、攻击消除、违规消除、任务恢复四类信号投票成一个记忆漂移分数;在线只跑一个风险模型,用最大分量风险标出可疑记忆,不再回放。

效果落在两个角度。检测侧,GPT-5.6 Luna 受害、AgentPoison 数据集上 AUPRC 为 0.6139,比 Claude Opus 5 少样本基线高 28.8%;换成 1.5B 的 Qwen2.5 仍高出 12.2%。防御侧,Mem2ActBench 上直接覆盖攻击成功率从 46.68% 压到 5.28%,休眠记忆从 77.41% 压到 3.25%。

开销是这套方法最实用的部分。单任务平均 1.52 秒、986 个防御 token,对比方案是 6.19 秒、2603 个 token。消融也交代了它靠什么,把执行上下文打乱之后,AUPRC 掉得比直接删掉这段上下文更狠,说明判断依据是这条记忆在什么局面下被召回,不是语义像不像。

边界写在论文里。只在三个投毒基准与自带攻击类型上验证;真实业务里记忆是多轮对话持续写进来的,写入时的来源与权限校验仍是另一件事。