📖 产品简介
Infinity 是 AWS 于 2026 年 10 月 23 日开源(Apache 2.0)的智能体运行时,由 AWS 与 UC Berkeley 合作的 Hydro 项目推出。
它借鉴编程语言的异步挂起/恢复机制,把智能体对工具的调用当作 async/await 的「await 点」:当智能体调用工具时,运行时分派调用、保存对话状态并将智能体挂起;工具结果返回时再从保存的状态恢复。挂起的智能体不占用任何内存与 CPU,因此可在极轻量资源下并发海量智能体——官方基准称约 8GB 内存(Raspberry Pi 5 量级)可容纳约 75,000 个并发智能体。Infinity 还可在标准 serverless 平台部署:智能体在工具调用期间挂起时,Lambda 函数即可退出,工具结果通过队列回投唤醒,实现「等待不占算力」。它内置 Reactive Agent Protocol(RAP)以网络方式提供服务而不保持连接,现有 MCP 服务器可经兼容层原样运行;并附带 Infinity Code 编码智能体。官方明确其为「早期研究发布」,旨在收集反馈,并非带 SLA 的 GA 托管服务。
定位
AWS 与 UC Berkeley 开源的极致并发智能体运行时
适合人群
运行长周期、稀疏事件智能体工作流(CI 机器人、工单值守、审批等待)的团队
评估 Bedrock AgentCore 等平台能力的架构师
偏好开源自托管、避免厂商锁定的组织
支持平台
Rust、Serverless(Lambda/SQS/Aurora DSQL)、自托管
开源
是 · GitHub
✨ 核心功能
- 挂起/恢复运行时:工具调用即 await 点,智能体挂起时释放全部内存,结果到达再恢复
- 极致并发:官方基准称约 8GB 内存可容纳约 75,000 个并发智能体(Raspberry Pi 5 量级)
- Serverless 友好:工具等待期间 Lambda 可退出,仅按推理切片计费,长耗时任务零空闲算力
- 兼容 MCP:现有 MCP 服务器经兼容层原样运行;内置 RAP 以网络方式提供工具而不保活连接
- 智能体间通信:通过 synthetic tool call 与 spawn_thread / report_to_parent 实现父子线程事件传递
- Apache 2.0 开源(Rust),附 Infinity Code 编码智能体与 CDK 参考架构
⚖️ 优缺点分析
👍 优点
- 将「等待」而非「思考」视为智能体成本核心,架构思路清晰
- 开源免费、Apache 2.0,可自托管与改造
- serverless 部署契合真实业务长周期、稀疏事件的负载特征
- 与主流 harness 思路互补(Google Agent Compute Engine 强调隔离,Infinity 强调并发经济性)
👎 缺点
- 明确为早期研究发布,非 GA,无 SLA 与商业支持
- 基准使用模拟模型与内存存储,真实工具延迟与限流分布仍需研究
- 需可插拔对话存储、持久队列与幂等工具实现,落地有一定工程门槛
- 对「事件乱序到达」「如何校验事件真实性」等开放问题尚未解决
📊 评分详情
功能完整
8
易用程度
6.5
安全可靠
7.5
性价比
9
💬 用户评价
Infinity 把智能体等待时的资源占用压缩到近乎为零——8GB 跑 7.5 万个并发智能体,思路像 async 运行时之于 Web 服务器,是 Agent 基础设施的有意思一跃。
📝 更新日志
-
2026-10-23Apache 2.0 开源(Hydro 项目)AWS 于 2026-10-23 开源 Infinity(Apache 2.0,Rust),由 AWS 与 UC Berkeley 合作的 Hydro 项目推出。核心:将智能体工具调用视为 async await 点——调用时持久化对话状态并挂起智能体,结果到达再恢复,挂起态不占内存/CPU;官方基准称约 8GB 内存可容纳约 75,000 并发智能体;支持 serverless 部署(SQS FIFO + Lambda + Aurora DSQL),工具等待期间函数可退出、仅按推理切片计费;内置 RAP、兼容 MCP、附 Infinity Code 编码智能体。官方称为早期研究发布、非 GA。来源:AWS Open Source Blog / tsnmedia / stackademic(2026-10-23~24)。