智能体刚进生产时,大家关心的是「它聪不聪明、能不能把活干完」。可一旦真上了业务,老板问的问题立刻变了:这次它为什么这么干?哪一步越了界?出了事到底该找谁?这个问题,靠看输入输出根本答不上来,必须把决策本身溯源。

把四步都留痕

决策溯源的做法是,把一个智能体的关键链路拆成可记录的四步,并各自写结构化轨迹:感知——它到底读了什么上下文;推理——它想做什么、置信度多少;工具——它调了谁、作用域是否合规;决策——它最终产出了什么动作。每一步都带时间戳,串成一条不可篡改、可回放的日志。比如一条记录会写明:某时某刻感知命中了规则某条,随后推理给出某置信度,接着调用某接口且作用域校验通过,最终产出某动作。

这样一来,审计员、监管方、以及事后的复盘,都能按时间线把责任落到具体一步,而不是面对一个黑箱结论。决策从「它说它做了 X」变成「记录显示它在某时某刻基于某输入产出了 X」,性质完全不同。当智能体调用了外部支付、发了对外邮件、改了客户记录,这条轨迹就是事后追责与合规举证最可靠的凭据。

它的前提与代价

轨迹要想有用,必须是结构化的,而不是一坨自由文本——否则事后搜不出、对不齐。它也要和身份层、权限层打通,才能把「谁的决策」精确绑定到「哪个智能体、加载了哪一版策略」。代价则是额外的存储与少量时延,对多数生产场景是可接受的开销。存储上常见做法是只保留关键决策节点而非全部中间 token,兼顾成本与可回放性。

和可观测性的关系

决策溯源比「只看输入输出」深了一层:输入输出只告诉你结果,轨迹告诉你路径与依据。它和护栏即代码也是互补的——护栏决定什么不允许发生,轨迹证明什么确实没发生。对金融、医疗、政务这类强问责场景,可追溯的轨迹不是加分项,而是上线的门票:没有它,再能干的智能体也过不了合规那一关。一个成熟的可观测体系,会同时保留输入输出、内部轨迹与策略版本三者之间的关联,让任何一次决策都能被完整还原。

把视野拉远一点,决策溯源其实是智能体从「工具」走向「同事」必须交的门票。当智能体只是帮人查个资料,黑箱尚可接受;当它开始替人发邮件、做支付、改记录,能否说清「这一步为什么发生」就不再是加分项,而是信任的前提。轨迹记录做的,正是把这份信任从无形的默契,变成可核验的凭证。没有凭证的自主,终究难以上得了生产的台面。

落到选型上,决策溯源不必一步到位做得很重。小团队可以从「关键动作才记录」起步——只对有外部副作用的步骤留痕,其余信任模型;等规模上来,再逐步补全全链路轨迹。重要的是先有「可回放」这个能力,而不是初期就追求滴水不漏。可观测是长出来的,不是一次设计完的。

决策溯源 · 每一步都留痕可审落地 · 可观测感知读入上下文推理生成意图工具调用外部决策产出动作不可篡改的轨迹日志ts=12:00:01 感知 → 命中规则 R3ts=12:00:02 推理 → 置信 0.82ts=12:00:03 工具 → 调 API(作用域 OK)ts=12:00:04 决策 → 动作 A,可回放审计员 / 监管 / 回放 据此追责与复盘
图 1|感知—推理—工具—决策四步各留结构化记录;事后能按时间戳回放,责任落到具体一步。