把一条纠正指令塞进一台已经跑了几个小时的智能体,它多半听不进去——不是故意,而是这条指令被越堆越长的上下文慢慢冲淡了。10 月 19 日挂在 arXiv 上的论文 2610.22373 给这种现象起了个名字:权威侵蚀(authority erosion)。论文由包括 Ryan Tran 在内的九位研究者提出,针对的是长程、多智能体系统里一个长期存在的控制缺口。

自由文本纠正为什么失灵

让人在中途用自然语言纠正智能体,失败有两种。一是解释含糊:自由文本没有结构校验,模型怎么理解都行,同一句话在不同轮次可能被读成不同意思。二是权威侵蚀:即便指令被正确理解,它也会随着后面不断累积的上下文逐渐失去分量,到后面几轮基本不再左右决策。论文的核心判断是,目前缺少一种协议层的机制,让操作者注入「有约束力、且能跨规划周期持续生效」的指令。

SAI 的写法:把指令变成工具调用

SAI(Structured Authority Injection,结构化权威注入)的做法,是把人的纠正改走带 schema 校验的 MCP 工具调用,并在每次给模型的提示前,前置一段按优先级排好序的「权威上下文」。它定义了三类覆盖:Constraint 是物理或操作上的硬限制,硬约束绝不被违反,软约束只在找不到合规方案时才绕开,且持续到被显式解除;Priority 是来自外部通道的紧急程度信息,在所涉任务或任务类完成时自动过期;Strategy 是协调类启发式(比如分区策略),可以贯穿整个任务,也可以在 N 个规划周期后过期。冲突按固定 precedence 解决:C 高于 P,P 高于 S,在拼提示时就算好。

人类指令的两种写法自由文本纠正结构无校验随上下文被冲淡agent 读到也可忽略SAI 结构化覆盖经 MCP 工具校验三种覆盖类 C / P / S优先级固定 C 高于 P 高于 S关键 asymmetry覆盖工具只能由监管接口调用规划智能体只能读、不能建也不能删
图|两种写法。读图要点:把指令变成可校验、带优先级的工具调用,而不是又一段会被冲淡的提示词。

实测:省 token 与掉表现并存

评测覆盖九个模型、八个刻意触发失败的场景(优先级错排、迟到的中断、够不到的任务、能力错配、拥堵等)。结果高度依赖模型。GPT-4o 在模拟瓶颈的 S7 场景里把 token 消耗降了约 38%;DeepSeek-R1 约降 31%。GPT-OSS-20B 在两个场景里从「一个任务都完不成」变成「全部完成」。但另一边,Gemini-2.0-Flash 在分区场景里从 1.00 掉到 0.50;最弱的一组(论文把 LLaMA、Qwen3、Claude-Haiku 归在这里)里,SAI 只增加了 token 成本,没有带来相称的收益,DeepSeek-R1 甚至因为权威上下文变长,在 S7 把 4096 的预算用光了。

收益高度依赖模型GPT-4oS7 瓶颈场景 token 约 -38%DeepSeek-R1约 -31%GPT-OSS-20B0 任务 → 全部完成(两个场景)Gemini-2.0-Flashzone 场景 1.00 → 0.50最弱组 LLaMA / Qwen3 / Claude-Haiku加成本无正向收益结论:方向对,但落地要看模型,不能照搬
图|九模型八场景。读图要点:SAI 在强模型上省下可观 token,在弱模型上反而只增成本,收益并不均衡。

真正有意思的那处不对称

设计里最值得抄走的一点,是覆盖工具只能由监管接口调用,规划智能体本身既读不到创建权也读不到删除权——它能看见这些指令,但不能自己生成或撤销。这意味着人类操作和模型规划被强行分开了。方法不需要微调、也不需要碰权重,一个支持 MCP 工具调用的指令微调模型就够。Claude Code 的 PreToolUse 钩子在精神上有点像:每次工具调用前跑一段校验,但 SAI 把「哪些指令是操作者专属、带过期时间」这件事正式化了。

能用,也有边界

论文把局限写得很直白:一切都在仿真里测,默认只有一个可信监管者,而额外的提示成本可能让原本表现很好的模型变不稳。对正在跑长程、有人在环的智能体系统的团队来说,方向是对的,但这些数字还不足以照搬整套 SAI。更划算的借鉴是那个模式本身:把人类订单当成带过期时间的类型化数据,而不是提示词里又一段会被冲淡的文字。