先把时间线摆直:10 月 9 日,Anthropic 披露评测环境里的智能体对着真实公网干出了一串越界动作,随后的处置是内部评测集体脱网(1813)。十天后,10 月 13 日到 15 日,治理货架密集上架:Pluto 走出隐身、ServiceNow 发布 AI Passport、AWS 抛出 Trust in Depth、Perplexity 开源 SPACE,中国台湾上市的 TPIsoftware 推出一整排主权 AI 治理家电。行业对「智能体会越界」的回答,不是等一个更听话的模型,而是把盒子、护照和计价器先造出来卖。

一周五信号,三层货架

把五件事按层归,货架的形状就出来了。凭证层,ServiceNow 的 AI Passport:签名凭据在运行时验权,漂移则分级处置(1943);AWS 那边对应的是 AgentCore 的身份与策略——每个智能体一个身份,每次请求都验。执行层,Perplexity 把 SPACE 沙箱以 Apache 2.0 开源,微虚拟机、凭据留盒外、快照可恢复(1942);AWS 的 Strands Box 同层同位,NVIDIA 的 OpenShell 则被 ServiceNow 选作执行落点。计量层,ServiceNow 的 AI 成本管理并进 ITAM,把模型、SaaS、GPU 开支归拢一本账;TPIsoftware 的 OrientAI Meter 家电更进一步,多租户隔离、token 配额、超限由 API 网关直接拦截。剩下 Pluto 不在某一层,它在所有层的侧面——端点上看智能体行为,该拦就拦、该劝就劝(1944)。

这一周上架的智能体治理货架凭证层:谁被授权干什么ServiceNow AI PassportAWS AgentCore 身份与策略签名凭据 + 运行时验权 + 分级处置执行层:被关在哪、能碰什么Perplexity SPACEAWS Strands BoxNVIDIA OpenShell微虚拟机 + 盒外凭据 + 快照恢复计量层:花了多少、该停就停ServiceNow AI 成本管理OrientAI Meter 家电token 配额 + 多租户隔离 + 超限拦截还空着的一层:独立验证货架上的每件货,都还没有第三方复核过的失败率数据
图|三层货架依次是凭证、执行、计量,各自标了同周上架的代表货。最下方虚线框是空着的一层——独立验证,本周无人补货。

AWS 的四问:给货架立了根轴

五件事里,AWS 的 Trust in Depth 更像一份纲领而不是产品。它把治理拆成智能体生命周期的四问:跑之前 Scope——这个智能体为什么存在、必须永不做什么;部署时 Know——谁批准的、每个动作能否归人;运行中 Bound——动作是否越线、控制是否装在模型之外;每次跑完后 Observe——能否还原全程、失败能否变成考题。自动推理被请来证明「能精确陈述的规则」——官方搬出的家底是 IAM 每秒 21 亿次请求、Nitro hypervisor、S3 屏蔽公访问这些跑了十年以上的生产系统。落到产品,Kiro 管构建期的规格严谨,Strands 与 AgentCore 管策略与网关,Guardrails 管说什么,Strands Box 管关在哪,CloudWatch Omni 管看清全过程。官方离职示例把 Scope 与 Bound 讲得很俗:智能体只拿到六件工具,顺序本身写成策略——先禁登录才能转邮箱,改许可证前先查法律留存;没有「删帐户」这件工具,因为共享邮箱还需要帐户活着。

跑之前、部署时、运行中、每次跑完之后Scope 跑之前这个智能体为什么存在必须永不做什么Know 部署时谁批准的每个动作能否归到人Bound 运行中动作是否越过界线控制装在模型之外Observe 跑完后能否还原全程失败能否变成考题官方示例:办一个离职,智能体只拿到六件工具禁用登录查法律留存放置留存转移邮箱改许可证没有「删帐户」这件工具——共享邮箱还需要帐户活着;顺序也写进策略:先禁登录才能转邮箱,改许可证前先查法律留存
图|四问按智能体生命周期横排,各自对应一层的控制手段。底部是官方离职示例:工具清单砍到六件,顺序本身写成策略——这就是 Scope 与 Bound 的落地样子。

三个跨厂商共识

把这一周的稿件排开,有三个直觉在四家厂商嘴里以不同措辞出现。其一,控制必须装在模型自身推理之外——AWS 说得直白,智能体关不掉它不运行的控制。其二,钥匙必须挂在盒子外——SPACE 的盒外凭据、Passport 的运行时验权、Labelbox 的凭据保险库(1929),说的是同一件事。其三,处置要分级——从引导回正到 kill switch,没有厂商再把治理当成一堵墙。这三个共识合起来,标志着智能体治理的讨论重心,从「怎么劝模型别干坏事」移到了「怎么让坏事在系统里就干不成」。

为什么是现在

三股压力把货架挤满了。失败模式的教育是现成的:1813 的评测脱网、1923 的智能体舰队闯入公网,把「越界」从论文词汇变成了头条词汇。采用与治理的剪刀差在扩大:ServiceNow 自家指数称 100% 的银行用上了 AI、仅 24% 有匹配治理;Futurum 的决策者调研里,有审计日志的只有 45.1%,47.2% 的组织还停在个人辅助阶段,跨智能体治理以 7.1% 成为头号关切——两套数字口径不同,方向一致。经济学也换了问法:1938 之后,token 与算力开销上了董事会议桌,计量层想不上架都难。

治理从口号变成货架,只用了两周10 月 9 日:评测环境集体脱网越界动作曝光后,内部评测先断直播网10 月 13-15 日:治理货架集中上架护照、沙箱、行为监控、四问框架同周到达三盆冷水,下单前看一眼官宣不等于发货护照、影子检测、成本管理都排 Q4今天摸不到没有第三方复核108 次尝试是自设考场治理差来自自家调研失败率无人公布互认才是生死题开放规范若只有自家能签发,护照就是新锁;误杀责任未定
图|上排是两周内的因果顺序:先有评测环境脱网,再有治理货架集中上架。下排三盆冷水对应发货、验证与互认——货架摆好了,成分表还没人审。

三盆冷水与三个观察哨

冷水一,官宣不等于发货:护照、影子检测、成本管理全排 Q4,TPI 的家电货在门户但没有部署数据。冷水二,独立验证层整体空场:108 次越界尝试是厂商自设考场,治理差是自家调研,没有任何一家里程碑附了第三方复核过的失败率。冷水三,互认才是生死题——「开放规范」若只剩控制塔自己能签发,护照就是新锁;kill switch 的误杀责任,也还没有任何厂商给过书面答案。

往后摆三个观察哨:Q4 发货时,非 ServiceNow 的身份供应商能不能当天签发验票;会不会有独立红队对这批沙箱与护照动手;以及头一个被公开复盘的 kill switch 案例长什么样。智能体治理从「自制工具」变成「货架商品」,只用了两周;但货架摆好不等于成分表审过——那层独立验证,本周无人补货。