让智能体在不确定的时候把「我不确定」说出口,几乎成了这两年产品设计的默认共识。10 月出现在微软研究院出版物列表里的两份研究,给这句共识加了两个苛刻的限定词:说的是哪一件事不确定,以及在什么场合打断人。

头一份是指称不确定性(Referential Uncertainty in Human–AI Collaboration,arXiv 编号 2609.39518),作者为微软研究院的 Christian Poelitz、哈佛大学的 Finale Doshi-Velez 与微软研究院的 Siân Lindley。实验任务是一局协作拼图:人看得到目标图案,模型看得到散落的拼块,两边互相看不见对方的画面,只能靠语言对齐「把粉色那块放到左上角」这类指称。这套信息不对称,和企业里最常见的一幕几乎同构——你说「用最新版方案」,智能体得自己判断哪一份算最新版、哪个版本的审批才算数。

默认话术把错误也说得笃定默认回复210 名受试者错误摆放接受率 78%好坏分辨力接近抛硬币区分度 AUC 约 0.50靶向不确定表述精确描述加针对性措辞错误接受率降到 36%正确动作基本没被挡住补上了看不见对方画面的缺口接模型自身熵的措辞听起来更真实效果可能适得其反源自过于自信的信号平均置信度 0.97单独问出来的信念分布,校准到 0.15、区分正确与否 AUC 0.65同一个模型直接输出的概率则是 0.44 的校准误差
图|在协作拼图任务里,默认话术下人会接受 78% 的错误摆放;加上精确描述与针对性的不确定表述后降到 36% 且不误伤正确动作;但接在模型自身熵上的泛泛措辞,因为源信号过于自信,反而可能带来负面效果。

数字把问题钉死了。模型直接输出的动作概率严重过度自信:平均置信度 0.97,校准误差 0.44。而另问一句「你觉得自己选对了吗」得到的信念分布,校准误差降到 0.15,区分摆放对错的能力达到 AUC 0.65。也就是说,模型肚子里是有一点数的,只是默认不往外说。在 GPT-4.1、GPT-5、GPT-5.5 三款视觉语言模型上,这个不确定度会随指令含糊程度上升,却不会随干扰项变多而上升——哪怕干扰项实实在在地把错误率抬高了。模型主动要求澄清的轮次,只占需要澄清的指令轮次的 3.5% 到 16.7%。

人这一侧是 210 名受试者的对照实验。只看到模型默认消息时,受试者接受了 78% 的错误摆放,分辨对错的能力 AUC 约 0.50,跟抛硬币差不多。加上精确的对象描述、尤其是针对性的不确定表述之后,错误摆放的接受率降到 36%,而正确动作的接受率大体保住——它补上的正是「人看不见模型工作区」这块共同认知缺口。但这条结论带条件:如果那句含糊其辞是由模型自身的熵推出来的,因为源信号本身校准不良,效果可能适得其反。

这条结论对「用不确定度当闸门」的一类机制是直接提醒。本站此前记录的 LEASH(1985)按不确定性决定自行执行、请示还是停工,那份方法的收益取决于闸门接的是哪一路信号。2609.39518 说的是:接原始概率很可能接错线;把不确定外化成一句可核查的话——具体指的是哪一个对象、哪一个版本、哪一项审批——才有效。换句话说,不确定表述要当成证据展示来做,不是当成语气修饰来做。

第二份研究是《元认知支架为 AI 辅助的知识工作制造良性摩擦》(Metacognitive Scaffolds Create Productive Friction for AI-Assisted Knowledge Work):297 名知识工作者、594 篇 AI 辅助写作,随机分组对照。动态生成的元认知支架要求人先把目标写清楚、把任务拆开,再让模型动手。结果是成稿质量提高,撤掉支架后短期迁移依然成立,三天后的主题回忆也更好。代价同样明确:被支架「打扰」过的人,反而觉得工具更不帮忙、过程更费脑子。

让人多想三十秒,297 人的随机对照实验目标拆解支架生成而非套模板297 人 594 篇短文随机分组文本质量提高撤掉支架后仍能保持三天后回忆更牢主观评价变差觉得工具更不帮忙觉得过程更费脑子作者的取舍值得设计的摩擦力易用感会低估它的价值来源:微软研究院出版物页,AI 辅助写作随机对照实验(2026 年 10 月)
图|在 AI 辅助写作任务上,动态生成的元认知支架提高了成稿质量,撤掉之后短期迁移依然成立,三天后的主题回忆也更好;代价是受试者主观上觉得工具更不好用、更费脑子。

两份研究合起来指向同一件事:摩擦需要被设计出来,而不是被优化掉。差别在位置——一份把摩擦放在模型的话里(把不确定说出来并指向具体对象),一份把摩擦放在人的动作前(先想清楚再让模型动手)。共同点是主观好用感会系统性低估这种摩擦的价值,因此靠满意度评分来决定要不要加,大概率会加错方向。对做智能体产品的人来说,这意味着「错误动作被拦下的比例」应当和「回答有多流畅」一起进指标盘。

冷水还是要泼。拼图与写作都是受控实验,受试者不是在自己熟悉的工作流里、也不会被自己的错误真实惩罚;样本量是 210 与 297,模型覆盖三家;两份工作目前以预印本与研究院出版物形式公开,同行评议结果尚未披露。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。观察哨有两个:不确定外化会不会变成产品的默认配置项,而不是提示词里的一句客套;以及企业采购时会不会把「错误动作拦截率」写进验收清单。