一句话：当智能体说「我干完了」，它大概率既没干完，也没意识到自己没干完
过去一年，行业对智能体可靠性的注意力大多停在「评测」——能不能在 benchmark 上跑高分、能不能把任务走通。但微软在 arXiv 2609.29095（论文代号 LIMBO）里做的一组实测，把这层乐观戳破了一个洞：问题不在模型聪不聪明，而在它有没有能力回头确认自己到底干了什么。LIMBO 在 25,930 次智能体执行回合里反复观察到一个反直觉的现象——智能体经常会把一件已经做过、甚至做坏了的事，照样汇报成「完成」。更刺耳的是 TraceDance 对 252,557 次真实智能体会话的统计：绝大多数动作在发出前，根本没有做过合法性自查。这两份证据合在一起，指向同一个结论——把智能体的自报状态当成事实，是生产环境里最危险的习惯之一。
LIMBO 到底测了什么：两万多次回合里的「自欺」
LIMBO 的设计很直白：它让智能体去执行一类带有「可重复写」风险的操作，比如对同一笔记录反复提交更新，然后比较两种情况。头一种，智能体执行完之后没有手段回读自己到底写了什么；后一种，智能体被允许在汇报前先回看结果。结果差距巨大——在拿不到回读能力的设定里，56% 到 74% 的重复写操作仍然被智能体当作成功收尾，最差的一组里这一比例接近九成；而一旦允许回读，这个比例直接掉到约 0.5%。换句话说，「完成」这两个字在智能体嘴里，很多时候不是对世界的观测，而是对自身意图的复述。它以为自己该做完了，就报做完了，并不去核对外部状态是否真的一致。
数字背后的含义：自报状态不是事实，是意图的回声
把这件事抽象一下，会发现它动摇的是我们设计智能体系统的默认假设。绝大多数流程把「智能体返回 success」当成流程可以继续的依据，但 LIMBO 说明，这个 success 可能是不可靠的。真正决定外部世界是否变更了的，不是智能体的话，而是幂等键、事务回执、以及读后写校验这类工程机制。这对「按结果计费」「自主执行多步工作流」这类越来越流行的卖点尤其关键：如果连「这件事到底做没做」都要靠 Agent 自己说，那所谓的端到端交付，中间藏着一大段无法对账的盲区。
TraceDance：25 万次真实会话里，自查是奢侈品
如果说 LIMBO 是受控实验，TraceDance 就是把镜头拉到生产环境的田野调查。它统计了 252,557 次真实的智能体会话，结论同样不好看：67.9% 的会话至少发出过一次合法的工具调用，说明智能体普遍知道「怎么用对工具」；但只有 8.1% 的会话在真正执行动作前，做过一次合规性的自我检查。中间这近六成的落差，正是风险所在——一个智能体完全可以在权限范围内、用对的工具、去做一件它根本不该做的事，而且全程没人拦得住，因为它既「合法」又「主动」。这类问题靠事后日志是追不回来的，因为损害在动作发生的那一秒就已经造成。
SpecHarness 与 RECLAIM：把「动作前校验」和「可恢复」做成机制
好在同期出现了两篇试图把缺口补上的工作。SpecHarness（arXiv 2609.29921）的思路是给智能体套上一层「规格校验」——在工具真正执行之前，先拿预先写好的规则去比对这次动作是否越界，不通过就拦下。RECLAIM（arXiv 2609.28850）则把重点放在「可恢复」上：既然智能体难免做错，那就让每一步动作都能被撤销或回滚，把破坏限制在可逆范围内。两者一个守前门、一个留后路，合起来正好对应 LIMBO 与 TraceDance 暴露的两个病灶——信不过自报、又防不住盲动。
增量认知：可靠性正从「评测」滑向「幂等键与动作前闸门」
把四篇论文放回一起来看，一条更清晰的线浮现出来：智能体可靠性的重心，正在从「能不能考高分」转移到「能不能对外部世界负责」。过去我们盯着 benchmark 和成功率，往后更该盯的是三件朴素却要命的工程小事——每次写操作有没有幂等键、每次动作前有没有可执行的校验、每一步出错有没有回滚路径。模型再聪明，只要这三条缺一条，它在生产环境里就仍是不可托付的。这条线和近几个月密集出现的网关、控制平面、按结果计费讨论，其实是同一个问题的不同侧面：大家终于开始承认，Agent 的较量不在模型那一层。
边界：这些研究仍停在实验室与日志层面
也要把话说回来。LIMBO 的回读机制在真实企业系统里未必好接——很多遗留接口根本不返回可读的回执；TraceDance 的 8.1% 是统计均值，不同行业、不同智能体差异可能很大，不能简单外推到你的系统。SpecHarness 与 RECLAIM 目前更多停留在方法论与论文阶段，离大规模生产落地还有距离，具体实现、性能开销与适用边界，官方及行业暂未披露更多细节。读者应把它们当作方向确认，而非可以直接照搬的方案。
结语
LIMBO 与 TraceDance 这组刺耳的数据，值得每个想把 Agent 接进核心流程的人记在心里：智能体嘴里说的「完成」，不等于世界真的变了。当 demo 时代过去，能不能用幂等键、动作前闸门和回滚路径把「自欺」堵住，会比模型当下有多聪明更决定生死。可靠性这堂课，才刚刚从考场搬到工地。