📖 产品简介
Akamai 于 2026 年 10 月 27 日发布 Akamai Inference，是其 AI 云栈的托管模型推理服务。
通过 OpenAI 兼容 API（base URL api.akamai-inference.com/v1）提供托管式的开放权重与自定义模型，现有应用无需重写即可迁移；客户可选手动无服务器按量付费或专用部署。首发目录包含 12 个开放权重模型，参数从 80 亿到 2.8 万亿，涵盖 NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4，以及用于 RAG 的嵌入模型。Akamai Cloud 提供托管数据库与对象存储，并可连接私有/公有云，让模型调用企业数据；推理编排、模型执行与鉴权由 Akamai 处理，请求在其全球网络（4,350+ 边缘节点）上运行以降低延迟。测试期不计费但有每月 token 上限、仅文本、不可指定处理区域；官方 FAQ 承诺零数据留存。同期 Akamai 扩充 Blackwell Ultra GPU 集群（每 8-GPU 节点 2.3TB HBM3e）。
定位
OpenAI 兼容 API 托管开放权重模型，就近边缘低延迟推理
适合人群
需要托管开放权重推理的企业
追求低延迟、就近推理的应用
已在用 OpenAI SDK 想平滑迁移的团队
支持平台
Akamai Cloud（核心+边缘）、OpenAI 兼容 API
开源
否
✨ 核心功能
- OpenAI 兼容 API，改 base URL / key / 模型三处即可迁移
- 12 个开放权重模型（8B–2.8T 参数），含 Nemotron 3 Ultra / gpt-oss-120b / Gemma 4
- 托管数据库/对象存储 + 私有/公有云连接，模型可调用企业数据
- 4,350+ 边缘节点就近推理，降低延迟、保高可用
- 测试期不计费（设每月 token 上限、仅文本、不可指定区域）
- 官方 FAQ 承诺零数据留存
⚖️ 优缺点分析
👍 优点
- 开放权重 + 兼容 API，迁移成本低
- 边缘网络就近推理，延迟与可用性优
- 测试期免费试用
- 零数据留存，企业合规友好
- 专用 GPU 可自控版本与弃用节奏
👎 缺点
- 测试期有每月 token 上限、仅文本、不可指定区域
- 正式定价尚未公布
- 相比三大云，生态与工具链仍在建设
- 开放权重模型的推理质量取决于所选模型
📊 评分详情
功能完整
8.5
易用程度
7.5
安全可靠
9
性价比
8.5
💬 用户评价
把推理放到离用户和数据更近的边缘，比把一切都回源到中心机房更划算——开放权重 + 兼容 API 是关键。
📝 更新日志
-
2026-10-27Akamai Inference 发布（测试期）Akamai 于 2026-10-27 发布 Akamai Inference：通过 OpenAI 兼容 API 托管开放权重/自定义模型，首发 12 个模型（8B–2.8T 参数，含 Nemotron 3 Ultra、gpt-oss-120b、Gemma 4 与 RAG 嵌入模型）；支持 serverless 按量或专用部署，连接托管数据库/对象存储与私有/公有云，请求在 4,350+ 边缘节点运行。测试期不计费但有每月 token 上限、仅文本、不可指定区域，官方承诺零数据留存。来源：Akamai 新闻稿 / GlobeNewswire（2026-10-27）。