让智能体在不确定的时候把「我不确定」说出口,几乎成了这两年产品设计的默认共识。10 月出现在微软研究院出版物列表里的两份研究,给这句共识加了两个苛刻的限定词:说的是哪一件事不确定,以及在什么场合打断人。
头一份是指称不确定性(Referential Uncertainty in Human–AI Collaboration,arXiv 编号 2609.39518),作者为微软研究院的 Christian Poelitz、哈佛大学的 Finale Doshi-Velez 与微软研究院的 Siân Lindley。实验任务是一局协作拼图:人看得到目标图案,模型看得到散落的拼块,两边互相看不见对方的画面,只能靠语言对齐「把粉色那块放到左上角」这类指称。这套信息不对称,和企业里最常见的一幕几乎同构——你说「用最新版方案」,智能体得自己判断哪一份算最新版、哪个版本的审批才算数。
数字把问题钉死了。模型直接输出的动作概率严重过度自信:平均置信度 0.97,校准误差 0.44。而另问一句「你觉得自己选对了吗」得到的信念分布,校准误差降到 0.15,区分摆放对错的能力达到 AUC 0.65。也就是说,模型肚子里是有一点数的,只是默认不往外说。在 GPT-4.1、GPT-5、GPT-5.5 三款视觉语言模型上,这个不确定度会随指令含糊程度上升,却不会随干扰项变多而上升——哪怕干扰项实实在在地把错误率抬高了。模型主动要求澄清的轮次,只占需要澄清的指令轮次的 3.5% 到 16.7%。
人这一侧是 210 名受试者的对照实验。只看到模型默认消息时,受试者接受了 78% 的错误摆放,分辨对错的能力 AUC 约 0.50,跟抛硬币差不多。加上精确的对象描述、尤其是针对性的不确定表述之后,错误摆放的接受率降到 36%,而正确动作的接受率大体保住——它补上的正是「人看不见模型工作区」这块共同认知缺口。但这条结论带条件:如果那句含糊其辞是由模型自身的熵推出来的,因为源信号本身校准不良,效果可能适得其反。
这条结论对「用不确定度当闸门」的一类机制是直接提醒。本站此前记录的 LEASH(1985)按不确定性决定自行执行、请示还是停工,那份方法的收益取决于闸门接的是哪一路信号。2609.39518 说的是:接原始概率很可能接错线;把不确定外化成一句可核查的话——具体指的是哪一个对象、哪一个版本、哪一项审批——才有效。换句话说,不确定表述要当成证据展示来做,不是当成语气修饰来做。
第二份研究是《元认知支架为 AI 辅助的知识工作制造良性摩擦》(Metacognitive Scaffolds Create Productive Friction for AI-Assisted Knowledge Work):297 名知识工作者、594 篇 AI 辅助写作,随机分组对照。动态生成的元认知支架要求人先把目标写清楚、把任务拆开,再让模型动手。结果是成稿质量提高,撤掉支架后短期迁移依然成立,三天后的主题回忆也更好。代价同样明确:被支架「打扰」过的人,反而觉得工具更不帮忙、过程更费脑子。
两份研究合起来指向同一件事:摩擦需要被设计出来,而不是被优化掉。差别在位置——一份把摩擦放在模型的话里(把不确定说出来并指向具体对象),一份把摩擦放在人的动作前(先想清楚再让模型动手)。共同点是主观好用感会系统性低估这种摩擦的价值,因此靠满意度评分来决定要不要加,大概率会加错方向。对做智能体产品的人来说,这意味着「错误动作被拦下的比例」应当和「回答有多流畅」一起进指标盘。
冷水还是要泼。拼图与写作都是受控实验,受试者不是在自己熟悉的工作流里、也不会被自己的错误真实惩罚;样本量是 210 与 297,模型覆盖三家;两份工作目前以预印本与研究院出版物形式公开,同行评议结果尚未披露。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。观察哨有两个:不确定外化会不会变成产品的默认配置项,而不是提示词里的一句客套;以及企业采购时会不会把「错误动作拦截率」写进验收清单。