9 月 18 日前后,多家媒体披露东南亚出行与外卖巨头 Grab 公开了内部的智能体交付脚手架 LLM-Kit。Grab 自己的一句话很扎心:推理循环的开发只花了一个下午,而生产环境适配封装却要两周。这句话其实戳破了行业里一个心照不宣的假象——大家都在卷智能体聪不聪明,真正拖垮交付节奏的,是推理循环之外那一整圈没人爱做的配套:密钥怎么管、调用链怎么追、工具去哪发现、效果怎么量化。模型会不会干活从来不是瓶颈,瓶颈在模型周围那一圈。
LLM-Kit 的做法不花哨。它没造一种新的智能体抽象,也没逼你学一门新语言,而是围绕 Grab 已有的基础设施搭了层脚手架。工程师填一张表单,系统就生成一个 GitLab 代码库,里面是一个能直接跑的 FastAPI 服务,已经内置了 LangGraph 的 Agent 模块、OpenTelemetry 的链路追踪、Vault 的密钥管理、服务发现,每次提交起就自带一个评估端点,可以用 ROUGE、BLEU 以及另一个模型当评分器来打分。过去每个新项目相当于发一块空地让你自己拉水电,现在直接甩给你一套精装公寓,你只往里搬家具。
更聪明的是两处不写死。工具不是硬编码在代码里的:智能体在运行时会从 50 多个已经注册、支持 MCP 的服务器里动态发现可用工具,一项能力注册一次,全公司所有智能体都能用。模型调用也一样,所有请求都走一个兼容 OpenAI 接口的统一网关 GrabGPT Gateway,网关前置接入了五家模型服务商并注入凭证,应用代码里永远不会硬编码某家厂商的名字。换模型、加厂商,只是配置层面的事,不必动业务代码。
结果很直观:在 Grab,把一个全新的智能体服务接入生产,现在大约要一小时,过去是两周甚至更久。这套东西正支撑着每天被数百万商家、司机和消费者使用的智能体。Grab 特意强调自己选的是框架而不是平台——平台会把团队锁死在固化的预设里,而这些预设很快会过时;框架则把技术决策的负担从每个服务一次,收敛成集中一次。这和今年行业里「Agentic AI 的技术锁定比 API 锁定更持久」的判断隐隐呼应:模型层可以用网关吃掉,但框架、运行时这些更难被单一接口封装的部分,还是留给团队自己掌控。
也要泼点冷水。LLM-Kit 解决的是交付,不是智能。它把配套做厚,让团队少造轮子,但框架本身的维护成本从分散变成集中,你愿不愿意为这份集中买单,才是真正的选择题。而且它目前是 Grab 的内部脚手架,公开的是工程方法论与部分技术栈,并不是能直接 pip install 的白嫖包——外部团队抄不走代码库,但那句「先造一次性基建,再让每个服务复用」的判断值得抄。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。
把视线拉远,Grab 的这套实践其实给所有在搭智能体的团队指了条路:当行业从比谁的智能体更会推理,切换到比谁上线更快、更稳,谁先把密钥、追踪、评估这三件脏活累活收敛成标准化基建,谁就在下半场少踩至少两周的坑。Amazon Bedrock AgentCore 这类托管方案卖的,也是同一层能力,只是换成了按云计费的商品。对企业来说,先想清楚要不要自己扛这层基建,比纠结选哪个智能体库更实际。