← 返回首页
♾️

Infinity

AWS(Hydro 项目,与 UC Berkeley 合作)

AWS 与 UC Berkeley 开源的极致并发智能体运行时

开源 基础设施 运行时 新
B+
极致并发智能体运行时新锐(研究预览)
⭐⭐⭐⭐

📖 产品简介

Infinity 是 AWS 于 2026 年 10 月 23 日开源(Apache 2.0)的智能体运行时,由 AWS 与 UC Berkeley 合作的 Hydro 项目推出。

它借鉴编程语言的异步挂起/恢复机制,把智能体对工具的调用当作 async/await 的「await 点」:当智能体调用工具时,运行时分派调用、保存对话状态并将智能体挂起;工具结果返回时再从保存的状态恢复。挂起的智能体不占用任何内存与 CPU,因此可在极轻量资源下并发海量智能体——官方基准称约 8GB 内存(Raspberry Pi 5 量级)可容纳约 75,000 个并发智能体。Infinity 还可在标准 serverless 平台部署:智能体在工具调用期间挂起时,Lambda 函数即可退出,工具结果通过队列回投唤醒,实现「等待不占算力」。它内置 Reactive Agent Protocol(RAP)以网络方式提供服务而不保持连接,现有 MCP 服务器可经兼容层原样运行;并附带 Infinity Code 编码智能体。官方明确其为「早期研究发布」,旨在收集反馈,并非带 SLA 的 GA 托管服务。

定位
AWS 与 UC Berkeley 开源的极致并发智能体运行时
适合人群
运行长周期、稀疏事件智能体工作流(CI 机器人、工单值守、审批等待)的团队 评估 Bedrock AgentCore 等平台能力的架构师 偏好开源自托管、避免厂商锁定的组织
支持平台
Rust、Serverless(Lambda/SQS/Aurora DSQL)、自托管
开源
是 · GitHub

✨ 核心功能

  • ⏸️ 挂起/恢复运行时:工具调用即 await 点,智能体挂起时释放全部内存,结果到达再恢复
  • 🪶 极致并发:官方基准称约 8GB 内存可容纳约 75,000 个并发智能体(Raspberry Pi 5 量级)
  • ☁️ Serverless 友好:工具等待期间 Lambda 可退出,仅按推理切片计费,长耗时任务零空闲算力
  • 🔌 兼容 MCP:现有 MCP 服务器经兼容层原样运行;内置 RAP 以网络方式提供工具而不保活连接
  • 🧬 智能体间通信:通过 synthetic tool call 与 spawn_thread / report_to_parent 实现父子线程事件传递
  • 🌐 Apache 2.0 开源(Rust),附 Infinity Code 编码智能体与 CDK 参考架构

⚖️ 优缺点分析

👍 优点

  • 将「等待」而非「思考」视为智能体成本核心,架构思路清晰
  • 开源免费、Apache 2.0,可自托管与改造
  • serverless 部署契合真实业务长周期、稀疏事件的负载特征
  • 与主流 harness 思路互补(Google Agent Compute Engine 强调隔离,Infinity 强调并发经济性)

👎 缺点

  • 明确为早期研究发布,非 GA,无 SLA 与商业支持
  • 基准使用模拟模型与内存存储,真实工具延迟与限流分布仍需研究
  • 需可插拔对话存储、持久队列与幂等工具实现,落地有一定工程门槛
  • 对「事件乱序到达」「如何校验事件真实性」等开放问题尚未解决

📊 评分详情

功能完整
8
易用程度
6.5
安全可靠
7.5
性价比
9

💬 用户评价

Infinity 把智能体等待时的资源占用压缩到近乎为零——8GB 跑 7.5 万个并发智能体,思路像 async 运行时之于 Web 服务器,是 Agent 基础设施的有意思一跃。

📝 更新日志

  • 2026-10-23
    Apache 2.0 开源(Hydro 项目)
    AWS 于 2026-10-23 开源 Infinity(Apache 2.0,Rust),由 AWS 与 UC Berkeley 合作的 Hydro 项目推出。核心:将智能体工具调用视为 async await 点——调用时持久化对话状态并挂起智能体,结果到达再恢复,挂起态不占内存/CPU;官方基准称约 8GB 内存可容纳约 75,000 并发智能体;支持 serverless 部署(SQS FIFO + Lambda + Aurora DSQL),工具等待期间函数可退出、仅按推理切片计费;内置 RAP、兼容 MCP、附 Infinity Code 编码智能体。官方称为早期研究发布、非 GA。来源:AWS Open Source Blog / tsnmedia / stackademic(2026-10-23~24)。