同一天的另一篇论文换了提问方式,不问这条记忆内容可不可疑,而问把它抽掉之后智能体的行动会不会变。作者 12 人,框架叫 DriftGuard,做的是在线记忆漂移检测,代码已放出。
两个难点写得很直白。内容特征不够用,困惑度或检索相关度判断不了一条记忆是否会改变行为;反事实归因又太贵,每条候选记忆都重放一遍下游执行,实时预算吃不消。
办法是把离线监督与在线估计拆开。离线阶段从同一个动作前状态出发,成对重放原始轨迹与只中和一条记忆的轨迹,把行动改变、攻击消除、违规消除、任务恢复四类信号投票成一个记忆漂移分数;在线只跑一个风险模型,用最大分量风险标出可疑记忆,不再回放。
效果落在两个角度。检测侧,GPT-5.6 Luna 受害、AgentPoison 数据集上 AUPRC 为 0.6139,比 Claude Opus 5 少样本基线高 28.8%;换成 1.5B 的 Qwen2.5 仍高出 12.2%。防御侧,Mem2ActBench 上直接覆盖攻击成功率从 46.68% 压到 5.28%,休眠记忆从 77.41% 压到 3.25%。
开销是这套方法最实用的部分。单任务平均 1.52 秒、986 个防御 token,对比方案是 6.19 秒、2603 个 token。消融也交代了它靠什么,把执行上下文打乱之后,AUPRC 掉得比直接删掉这段上下文更狠,说明判断依据是这条记忆在什么局面下被召回,不是语义像不像。
边界写在论文里。只在三个投毒基准与自带攻击类型上验证;真实业务里记忆是多轮对话持续写进来的,写入时的来源与权限校验仍是另一件事。