智能体刚进生产时,大家关心的是「它聪不聪明、能不能把活干完」。可一旦真上了业务,老板问的问题立刻变了:这次它为什么这么干?哪一步越了界?出了事到底该找谁?这个问题,靠看输入输出根本答不上来,必须把决策本身溯源。
把四步都留痕
决策溯源的做法是,把一个智能体的关键链路拆成可记录的四步,并各自写结构化轨迹:感知——它到底读了什么上下文;推理——它想做什么、置信度多少;工具——它调了谁、作用域是否合规;决策——它最终产出了什么动作。每一步都带时间戳,串成一条不可篡改、可回放的日志。比如一条记录会写明:某时某刻感知命中了规则某条,随后推理给出某置信度,接着调用某接口且作用域校验通过,最终产出某动作。
这样一来,审计员、监管方、以及事后的复盘,都能按时间线把责任落到具体一步,而不是面对一个黑箱结论。决策从「它说它做了 X」变成「记录显示它在某时某刻基于某输入产出了 X」,性质完全不同。当智能体调用了外部支付、发了对外邮件、改了客户记录,这条轨迹就是事后追责与合规举证最可靠的凭据。
它的前提与代价
轨迹要想有用,必须是结构化的,而不是一坨自由文本——否则事后搜不出、对不齐。它也要和身份层、权限层打通,才能把「谁的决策」精确绑定到「哪个智能体、加载了哪一版策略」。代价则是额外的存储与少量时延,对多数生产场景是可接受的开销。存储上常见做法是只保留关键决策节点而非全部中间 token,兼顾成本与可回放性。
和可观测性的关系
决策溯源比「只看输入输出」深了一层:输入输出只告诉你结果,轨迹告诉你路径与依据。它和护栏即代码也是互补的——护栏决定什么不允许发生,轨迹证明什么确实没发生。对金融、医疗、政务这类强问责场景,可追溯的轨迹不是加分项,而是上线的门票:没有它,再能干的智能体也过不了合规那一关。一个成熟的可观测体系,会同时保留输入输出、内部轨迹与策略版本三者之间的关联,让任何一次决策都能被完整还原。
把视野拉远一点,决策溯源其实是智能体从「工具」走向「同事」必须交的门票。当智能体只是帮人查个资料,黑箱尚可接受;当它开始替人发邮件、做支付、改记录,能否说清「这一步为什么发生」就不再是加分项,而是信任的前提。轨迹记录做的,正是把这份信任从无形的默契,变成可核验的凭证。没有凭证的自主,终究难以上得了生产的台面。
落到选型上,决策溯源不必一步到位做得很重。小团队可以从「关键动作才记录」起步——只对有外部副作用的步骤留痕,其余信任模型;等规模上来,再逐步补全全链路轨迹。重要的是先有「可回放」这个能力,而不是初期就追求滴水不漏。可观测是长出来的,不是一次设计完的。