← 返回首页
🛡️

BotGauge

BotGauge

上线前先把智能体打一遍红队,让每个失败都变成会回归的检查

智能体安全 红队 评测与回归 新
B+
智能体的失败不在最终答案里,而在某次工具调用的参数里
⭐⭐⭐⭐

📖 产品简介

BotGauge 是面向已投入生产的智能体的红队(red-teaming)平台,2026 年 10 月 28 日上线并随即在 10 月 29–30 日登上 Product Hunt 日榜第三(198–250 票)。

它针对的是智能体「从回答问题转向采取行动」之后才出现的那类风险:调用工具、触碰生产数据、动用资金。平台内置 200 多种对抗性与真实世界攻击策略,覆盖提示注入、策略绕过、工具误用与多轮操控,并支持自定义策略;官方示例展示了一个智能体被诱导改签航班并跳过审批,随后被策略判定阻断并自动加入评测集。发现失败后,BotGauge 会追踪该次运行背后的全部 prompt、响应、工具调用、上下文与执行路径,说明智能体为什么会这么做;重要发现会自动转成评测项,在后续每次发布时重跑,按目标完成度、准确率、策略遵循度与自定义标准打分;策略与护栏再把标准带进评测、监控与运行时防护。它定位为框架无关:模型侧支持 OpenAI、Anthropic 与 Hugging Face,编排侧支持 LangChain、LlamaIndex、LangGraph,智能体系统支持 CrewAI、AutoGen 与 AutoGPT,接入无需改动应用本身。合规方面通过 SOC 2 Type II,提供 SSO、SAML 与细粒度访问控制。定价页未公布具体金额:Launch 档按测试用例计价,包含 AI 生成并经 QA 专家核验的用例、无限次执行与自愈用例;Scale 档为定制价,增加跨浏览器与操作系统执行、CI/CD 集成、PR 代码评审、AI 调试器与专属客户成功经理;定价页提到有免费试用。

定位
上线前先把智能体打一遍红队,让每个失败都变成会回归的检查
适合人群
即将把智能体推上生产的工程团队 客服、内部流程等会调用工具与动用资金的智能体 受合规约束、需要审计智能体行为的企业 换模型后担心静默回归的团队
支持平台
Web 控制台、SDK / CI 集成、API
开源
否

✨ 核心功能

  • ⚔️ 200+ 对抗与真实场景攻击策略:提示注入、策略绕过、工具误用、多轮操控
  • 🔬 全链路追踪:prompt、响应、工具调用、上下文与执行路径
  • ✅ 失败自动转评测,按目标完成 / 准确率 / 策略遵循度打分并持续回归
  • 🚧 策略与护栏贯穿评测、监控与运行时防护
  • 🧩 框架无关:LangChain / LlamaIndex / LangGraph / CrewAI / AutoGen / AutoGPT
  • 🔐 SOC 2 Type II、SSO、SAML 与细粒度访问控制

⚖️ 优缺点分析

👍 优点

  • 把「上线后才发现」的问题提前到测试阶段
  • 失败自动沉淀为回归评测,越用越全
  • 框架与模型无关,不侵入现有实现
  • 断言工具调用与参数,而不只看最终文本
  • 合规资质齐备,便于进入企业采购流程

👎 缺点

  • 官方定价页未公布具体金额,采购前需询价
  • 200+ 策略的覆盖率与真实攻击面难以独立验证
  • 换模型即可能回归,需长期持续投入评测维护
  • 面向生产级智能体,个人与原型项目偏重
  • 产品较新,社区案例与第三方评测仍少

📊 评分详情

功能完整
8
易用程度
7.5
安全可靠
8.5
性价比
7.5

💬 用户评价

智能体出事,往往不是答错了,而是把对的工具用错了参数。

📝 更新日志

  • 2026-10-28
    AI Agent Red-Teaming Platform 上线
    BotGauge 于 2026 年 10 月 28 日上线 AI Agent Red-Teaming Platform,并在 10 月 29–30 日登上 Product Hunt 日榜第三(198–250 票)。平台内置 200+ 对抗与真实世界攻击策略(提示注入、策略绕过、工具误用、多轮操控,支持自定义),发现失败后追踪完整 prompt / 工具调用 / 执行路径,并把重要发现自动转为每次发布重跑的评测项;策略与护栏贯穿评测、监控与运行时防护。框架无关,支持 OpenAI / Anthropic / Hugging Face 与 LangChain / LlamaIndex / LangGraph / CrewAI / AutoGen / AutoGPT;通过 SOC 2 Type II,提供 SSO 与 SAML。定价未公开:Launch 按测试用例计价,Scale 为定制报价,定价页提及免费试用。来源:BotGauge 官网与定价页、Product Hunt 日榜(2026-10-28~10-30)。