决策模型（Decision Model）
| 分类 | 📖 基础概念 |
| 阅读时间 | ⏱️ 18 分钟 |
| 更新时间 | 📅 2026-10-23 |
| 条目编号 | ENC-CONCEPT-29-decision-model |
关键要点 ✦
- 决策模型只做判定不做生成：给定问题与有限候选答案，返回结构化结果与置信度，不输出自然语言长文。
- 2026 年 9 月以来形成小趋势：TypeSafe Jev（9 月 16 日发布）、OpenAI Decisions API（9 月 29 日 DevDay 公布）、Cloudflare Clef 与 AWS Strands Decider 2B 相继落地。
- OpenAI Decisions API 提供谓词判断、选项选择、档位打分三种问题类型，由 gpt-6-luna 模型驱动，输入定价 0.10 美元/百万 token、输出免费（据 OpenAI 官方 DevDay Recap 与 The Decoder 报道）。
- 价值主张是成本与延迟：分类、路由、审核等高频低复杂度调用不再占用生成式推理，官方称 Decisions API 速度约为 Responses API 的十倍（厂商口径，测试条件未公开）。
- 行业提醒两类代价：技术栈蔓延与阈值不可迁移——不同模型的置信度含义并不相同，跨供应商需按自身数据重新校准（据 InfoWorld 引述 HFS Research 分析）。
- 决策方案（问题、答案集、阈值）承载业务策略，需要像提示词一样做版本管理、责任归属与审查。
从「生成一切」到「只做决定」
智能体系统里大量调用其实不需要模型写答案：这条请求该路由给谁、这张照片有没有破损、这个工单属于哪个队列、下一步该调用哪个工具——这些都是从有限候选里做选择。传统做法是让通用大模型生成一段自由文本再解析，既慢又贵，还可能解析失败。2026 年 9 月 16 日，TypeSafe 发布的 Jev 把这层逻辑挑明：很多自动化根本不需要 LLM 写答案，只需要快速做决定（据 InfoWorld 报道）。不到两周后，OpenAI 在 9 月 29 日的 DevDay 上公布 Decisions API，把同样的思路产品化为平台能力；随后 Cloudflare 与 AWS 也各自给出实现，决策环节开始从生成式推理中独立成层。
三种判定形态与 Decisions API
据 OpenAI 官方 DevDay Recap，Decisions API 把 Luna 模型（gpt-6-luna）的能力聚焦到开发者预设的、答案有限的问题上：输入文本或图片，返回可直接用于分类、路由或选择智能体下一步动作的结构化结果。它提供三种问题类型：谓词判断返回 0 到 1 的概率，阈值由业务代码决定；选项选择从预设候选里挑一项并给出概率与置信度；档位打分按离散档位返回分数与各档概率。定价为输入 0.10 美元/百万 token，输出不收费；官方宣称速度约为 Responses API 的十倍，但测试负载条件未公开。据 The Decoder 报道，该接口支持零数据保留，并支持在美国与欧洲用于 HIPAA 合规场景，2026 年 10 月起处于公开测试阶段。
部署形态的三条路线
同一理念目前有三种落地形态。其一是托管接口：OpenAI Decisions API 把底层模型对开发者抽象隐藏，作为应用或智能体工作流中可调用的基础组件。其二是边缘部署：Cloudflare 通过 Workers AI 平台开放 Clef 与 Clef-flash 模型，让企业在靠近应用的位置运行轻量决策模型，以本地处理常规决策来降低延迟与推理成本。其三是开源自托管：AWS 的 Strands Decider 2B 是约 20 亿参数的开源模型，负责选择工具、路由任务、确定工作流下一步，把复杂推理留给更大的模型——在 AWS 的表述里，它更像智能体内部的一个控制流组件（据 InfoWorld 汇总报道）。
在智能体架构中的位置
决策模型处在「推理」与「行动」的边界上。在编排者-工作者结构里，编排者的大量判断本质是分类题而非作文题，交给决策模型后，大模型可以专注真正的复杂推理。它与运行外壳（harness）的关系是互补而非替代：harness 管理上下文、工具与生命周期，决策模型则可以被 harness 在工具选择、请求路由等环节调用。OpenAI 同时宣布 Agents API 支持计算机操作并引入多智能体能力，托管基础设施的思路与专用决策接口共同指向同一个方向——把智能体系统中不同性质的计算拆开，分别匹配性价比合适的载体。
局限与治理风险
快速涌现的决策模型也带来新问题。HFS Research 执行研究主管阿希什·查图尔维迪对 InfoWorld 表示，在推理模型、重排序器、嵌入模型、路由器、护栏之外再加入决策模型，AI 技术栈蔓延的风险显著，且每个模型的置信度分数含义不同——同一阈值无法跨模型套用，切换或并用多家供应商时必须重新校准。H-E-B 高级数据工程师阿迪蒂亚·兰詹则提醒，错误决策的下游纠正成本可能超过推理本身的节省，企业应从端到端延迟、单次成功决策成本、决策准确率、运营开销与故障恢复成本等维度做整体评估。换言之，决策方案本身正成为需要治理的资产。
🎯 应用场景
✅ 最佳实践
- 以端到端指标评估而非单点速度：工作流总延迟、单次成功决策成本、准确率、运营开销、故障恢复成本一起看。
- 阈值按自身数据校准，不直接套用供应商演示值；多供应商并用时分别校准。
- 把问题、答案集与阈值当作业务资产做版本管理与审查，避免各团队决策口径冲突。
- 为错误决策设计下游纠正路径，把误判成本纳入选型计算。
🔮 未来展望
决策层大概率会成为企业 AI 技术栈中与路由器、护栏并列的专门一层。值得跟踪的变量包括：Decisions API 正式版与模型支持范围、开源决策模型在端侧与边缘的落地、以及行业能否形成跨模型置信度校准的通用做法。目前官方及行业暂未披露更多细节，后续将持续跟进迭代动态。