📖 产品简介
Ollaya 被称为「决策模型的 Ollama」（Ollama for decision models），是一个用 Rust 编写、以 Apache-2.0 协议开源的本地运行时，专注于在本地运行判断与决策类模型（judge/decision models）。
v0.6.0 于 2026-09-25 发布，内置 laya、decider、nli、gliclass、kev、von、qwen3guard 等一系列小型专用模型，覆盖自然语言推断、分类、护栏（guard）、关键信息抽取等任务。Ollaya 提供与 TypeSafe 兼容的 API 以及 MCP 接口，免费且无 token 费用，适合需要在本地、低延迟、可控环境中运行判定逻辑的应用（如 Agent 的自我审查、内容护栏、分类路由）。
定位
「决策模型的 Ollama」——本地运行判断/决策类模型
适合人群
需要在本地运行判定/护栏逻辑的开发者
关注隐私与成本可控的团队
为 Agent 增加分类/审查/路由层的应用
支持平台
本地（Rust 运行时）、macOS/Linux/Windows
开源
是 · GitHub
✨ 核心功能
- Rust 编写、Apache-2.0 开源，本地运行无 token 费用
- 内置多款决策模型：laya / decider / nli / gliclass / kev / von / qwen3guard
- TypeSafe 兼容 API + MCP 接口，易集成
- 覆盖分类、NLI、护栏、关键信息抽取等判定任务
- 适合 Agent 自我审查、内容护栏、分类路由等本地低延迟场景
⚖️ 优缺点分析
👍 优点
- 完全本地、免费、无 token 计费，隐私与成本可控
- 聚焦决策/判定模型这一细分刚需，定位清晰
- Rust 实现，性能与资源占用表现好
- TypeSafe 兼容 API + MCP，集成成本低
👎 缺点
- v0.6.0 仍属早期版本，模型覆盖与稳定性待验证
- 需本地算力运行模型，重型任务对机器有要求
- 社区规模有限，文档与生态仍在成长
- 仅覆盖「判定」类任务，不替代通用大模型
📊 评分详情
功能完整
8
易用程度
7.5
安全可靠
8.5
性价比
9
💬 用户评价
Ollaya 就是判定模型的 Ollama，本地跑 qwen3guard、nli 这些小模型做护栏和分类，免费还没 token 费，给 Agent 加自我审查很合适。
📝 更新日志
-
2026-09-25v0.6.0Ollaya v0.6.0 发布：被称为「决策模型的 Ollama」，Rust 编写、Apache-2.0 开源，本地运行 laya/decider/nli/gliclass/kev/von/qwen3guard 等决策/判定模型，提供 TypeSafe 兼容 API 与 MCP 接口，免费无 token 费用。