把这一周的智能体新闻排在一起看,会看到一条不太热闹但很结实的主线:智能体进生产前要过的四道关,这周各自被点了一次名。10 月 13 日,两篇 arXiv 论文从两头夹击「记忆与权限」——Bemula 基准测出主流记忆系统的用户删除请求端到端通过率没有一个超过 1.5%;接地感知研究发现智能体分不清自己的建议和用户的指令,用户信息给得越全反而越容易自作主张。10 月 14 日,Chainguard 把「隔离、签名证明、人审」打包成三件商品;10 月 19 日,GitLab.com 的请求新限额正式生效。四件事分属学术、产品、平台三层,指向却是同一个:能力演示决定智能体能走多远,纪律建设决定它敢被派进多深的生产环境。
遗忘关:删得准
智能体记的日子久了,用户让它删点东西,它就删不掉。Bemula 的读数摆在这:七个记忆系统、三个骨干模型,端到端通过率(既删干净、又不误伤、还扛得住套话)没有一个超过 1.5%,大多数是零。失败形态还分三种——删不干净(一句合适提示就能把「已删除」的值再捞出来)、删多了(混进从未请求过的街道地址)、过度拒绝(全上下文式系统只会一律装失忆)。这道关背后是数据保护框架里存在多年的删除权,只是现在它有了一个具体的技术落点:智能体的记忆系统,是不是一个可靠的「遗忘机器」。基准刚发布、未经复现,但方向没有争议。
边界关:分得清
接地感知论文问的是一个更细的问题:智能体提过的建议,会不会因为被写进记忆,就变成了用户授权的指令?论文把约定分成四种状态——已接受、未回应、修改过、限定范围——然后发现两个反直觉读数:记忆基准上拿高分的系统,照样分不清提议与承诺;给智能体更完整的用户信息,它执行「没被点头的建议」反而更多。这道关的解法意外地轻:一个免训练的 Grounding Layer,显式跟踪每条约定的状态,后果性动作执行前先核对——不改模型,产品层就能补。
隔离关:关得住
Chainguard 的三件套把这道关做成了标价商品(虽然没标价):智能体跑在硬化微 VM 里,凭证从外部注入、它连摸都摸不到;测试通过产出签名证明随代码流转,合并门验过证明免跑;AI 找出的漏洞每处复现稳定后才交付,修复经工程师审阅。它与本站报道过的 Docker Sandboxes、Google Agent Substrate 构成同一条防线的前后段——那两家解决「智能体跑在哪」,Chainguard 补「智能体写的东西怎么被相信」。这道关的代价很直白:隔离收窄能力、证明链成为新攻击面、人审拖慢速度。
计量关:算得清
GitLab 10 月 19 日起对免费与未认证流量执行新限额(每 IP 每小时 60 次起),付费档明年 1 月跟进,官方与媒体都把压力归因于智能体洪峰;GitHub 则 reportedly 在扩容,厂商声称写入至多快 35 倍。同一周,NetSuite QuickStart 把智能体团队的月度用量额度写进免费条款,AWS 给智能体钱包设过支出上限。智能体烧的算力,正在从「成本外部性」变成平台账面上的硬数字——装仪表的不只是代码托管,是每一层。
四道关合起来意味着什么
四道关没有一件是「让模型更聪明」,全部是「让约束可核查」——删得准、分得清、关得住、算得清。这与上周的判断是一脉相承的:智能体开始还「交付债」,还的是产出的质量;这周的四道关,立的是产出的规矩。再把时间线拉长,10 月初本站梳理「钱包×身份×常住址」三件套时说过,基础设施开始把智能体当独立经济主体——四道关是同一进程的另一个切面:当智能体成为经济主体,它就必须服从经济主体的规矩,包括被遗忘权、被授权边界、被隔离审查和被计量收费。
需要保留的怀疑
四道关目前各自为战:两篇论文刚发布未经独立复现,厂商读数均无第三方验证,GitLab 的动因归因含媒体解读成分,「纪律叙事」本身也可能成为新的营销话术——卖约束和卖能力一样能收钱。限额有误伤合法自动化的现实风险,隔离有拖慢正常流程的代价,四道关都是成本项,不是免费午餐。还有一个更值得盯的开放问题:谁先把「遗忘+边界+隔离+计量」攒成一套默认配置,谁才真正拿到企业智能体的入口——现在,还没有人交卷。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。但对正在部署智能体的团队,这周的可用动作是:把「它闯祸了怎么收场」从附录提上议程——删除指令灵不灵、提议和指令分不分得清、出错时碰得到什么、烧钱时谁在看表。四个问题都有答案的团队,才真的准备好把智能体放进生产;缺哪个,补哪个,顺序就是上面四道关。