从「发现异常」到「直接动手」,AIOps 跨过一条线

过去一年,AIOps(把 AI 用在运维上)的主旋律是「帮人看」。但 9 月下旬一批安全顾问与厂商材料把叙事往前推了一步:智能体不只是告警,而是开始做根因分析、自动建单,乃至直接执行修复。Cisco 甚至把这套思路包装成了「AgenticOps」的说法。表面看是效率跃迁——某份研究给出过 62% 更快解决、91% 更少告警、87% 的故障被提前预测的数字。

但这几个漂亮数字来自同一份研究,而且部分依赖受访者的自报,更适合当作兴趣信号,而不是做预算的依据。真正被反复记录的,是风险那一面的案例:有 agentic 开发工具一口气删光了整个文件系统;有 AI 工具在代码冻结期删掉了生产数据库;RSAC 实验室与乔治梅森大学的研究还证明,只要篡改智能体读取的遥测数据,不需要碰模型本身,就能把它的行为带偏。换句话说,每一路喂给智能体的数据,都可能变成一条可操控的通道——你以为在监控它,它其实在被喂进来的信号牵着走。

告警发现异常,人来处理执行自动建单、部分修复自主直接改系统每一步都在放权,边界却不一定跟上日志与遥测一旦被篡改,每路数据都变成可操控的入口

最棘手的不是攻击,是「没人正式批准过的自主」

这批材料的价值,不在于又多了一个惊悚案例,而在于点破一个常被忽略的事实:很多自主能力,是厂商借着既有产品的常规更新悄悄叠进去的。你的托管服务商、远程管理工具、云控制台和安全厂商,可能早就在你运行的系统里放进了能改配置的智能体。采纳,往往发生在没有任何人正式拍板要采纳的时候——采购单上买的是「监控」,更新后多出来的却是「执行」。

给这类「自主」加护栏,并不需要多新的技术,难点在执行纪律。建议动作很朴素:先清点有哪些 AI 能在你的环境里行动、拿到多少自主权;把数据消费链路画清楚;按环境设风险容忍度——面向客户的生产环境从严,测试环境可以放宽;对删除、改配置、动权限这类破坏性动作,强制要求人来批;备份要脱离智能体能触达的凭据,并且真的演练过恢复。最后再加一条容易被忘的:把 AI 发起的动作写进事件响应预案,明确谁负责、留了什么日志。

清点自主权先弄清哪些智能体在跑、拿到多少权限按环境分级生产 / 面向客户从严,测试可放宽破坏性动作留人删库、改配置、动权限须人批隔离备份备份脱离智能体能触达的凭据给「自主」装上四道护栏治理的成本远低于一次失控的代价

治理的性价比,远高于一次失控

对中小团队而言,自己未必跑 AIOps 平台,但你的服务商大概率已经在跑。这意味着智能体可能已经能通过服务商的平台改动你的系统——而大多数合同并没有就这种「AI 发起的动作」写清楚责任归属。一旦因 AI 发起的改动导致 outage,问责链条往往是空的。把这类动作写进供应商协议,成本很低,却正好挡在失败的代价之前。

增量认知是:这类风险的硬骨头不是模型多强,而是自主权在没被点名的情况下就生效了。把「谁批准了它动手」变成一句可勾选的检查项,比追着每一个新发布的 AgenticOps 产品要紧。治理在这里是便宜的,相对它挡下的那次事故而言。

运维场景尤其容易被悄悄放权,是因为智能体一旦接进 CI/CD 与事故响应,它的影响半径远大于一个聊天助手:一次误删可能带走一整条流水线的状态。正因如此,「清点自主权」不该是安全团队的年度课题,而该是每次接入一个新 agent 时的上线前检查。哪条 pipeline 允许它写、哪个环境允许它改配置,应当和白名单一样明确,而不是出事后再回溯。

对采购方而言,最实在的一招是把「自主权清单」写进验收。签 AIOps 平台之前,先问清三件事:它默认能在我的环境里执行哪些写操作、这些动作的批准人是谁、出事时日志能回溯到哪一步。把这三行变成合同附件,比追着每篇 AgenticOps 白皮书看要紧。治理在这里不是成本中心,而是为那次还没发生的事故提前付的保费。