11 月 17 日,微软在 Ignite 上宣布发起 AI 透明度倡议,与 40 多家机构共同制定跨模型、跨供应商的开放标准,合作方包括埃森哲、Adobe、毕马威、万事达卡与沃尔沃汽车。倡议分 3 块,扩大参与美国国家标准与技术研究院的 SI Agent Standards Initiative,与合作方共同起草标准,再把结果做进 Microsoft AI、Microsoft Foundry 与 Copilot。
微软给出的判断是智能体带着数据、工具与凭据在跑,风险像有权限的内部人,速度却是机器的。现有安全工具能看到模型周边发生了什么,看不到请求与结果之间模型内部发生了什么,也无法独立核验模型对自己行为的描述。微软安全部门副总裁 Hayete Gallot 的说法是,安全控制要生效,企业需要对模型本身有更多可见性。
框架被压成三个动作。观察,记录智能体被要求做什么、获得什么授权、用了哪个模型与运行时、碰了哪些数据与工具;验证,证据要标明来源是模型、运行时还是身份与策略系统,让模型自述可以和独立记录对照;控制,把流程的目的、责任人、数据与授权范围写清,在关键动作发生前执行策略。
与产品绑定的部分最容易检验。微软称这套证据要能导出到企业自己的安全与合规工具,微软的或别家的都行,并且在更换闭源或开放权重模型后仍然可用。这句话的潜台词是审计记录不能锁在模型厂商手里,否则换一次模型就要重建一次治理。
具体交付还早。公告没有给出规范草案、字段结构或时间表,除已点名的 5 家外,40 多家合作方的名单未公开,其他模型厂商是否采纳也没有说法。标准写在新闻稿里只是意向,落到采购条款里才算数。