一个反方向的赌注
9 月 15 日,TypeSafe AI 结束约两年的隐身状态,发布自称为 System One 模型的 Jev,并宣布约 4000 万美元种子轮融资,由 DCVC 领投。《福布斯》援引知情人士称本轮投后估值约 2 亿美元,而公司与 DCVC 的官方稿件都没有确认这一数字,也未披露资金用途的具体拆分。
公司由 Diogo Almeida 创办并担任 CEO,他此前在 OpenAI 从事指令遵循相关研究,这项研究后来成为 InstructGPT 与对话模型训练路径的一部分;联合创始人 Erik Gafni 任 CTO,Sasha Sheng 任 COO,后者曾在 Meta 与 FAIR 担任研究工程师。
Almeida 在发布说明里提出的问题很直接:模型在对话这件事上早已超出人类水平,为什么大规模自动化没有随之到来。他的解释是,用于对齐人类偏好的训练同时植入了几种副作用——模式骤降、过度自信、行为不稳定——而这些副作用恰好让「把人留在回路里」变成一种必需。TypeSafe 由此得出的结论是换个方向做:不做对话,做判断。
Jev 不写字,它选答案
按官方文档,Jev 的接口形态与常规大模型不同。开发者提交一段结构化状态和一组带类型的问题,模型返回的是从预定义选项里选出的答案、每个选项的概率,以及这次判断的置信度。它不生成自然语言、代码或任意字符串。
问题只有三种形态。Choice 从开发者给定的选项里选一个,选项上限为 255 个;Score 按开发者描述的有序档位打分,例如把输入判为垃圾、边缘或正常;Noul 是一个是或否的问题,返回答案为是的概率。一次请求可以携带多个问题,模型并行评估,官方称这也是延迟能压到 70 至 500 毫秒的原因。
接入方式同样克制:一个 HTTP 端点,另有 Python 与 JavaScript 的 SDK,没有可下载的权重,也没有需要自建的部分。这个形态决定了它不可能是通用助手,只能是软件里被调用的一环——官方把它描述为一次面向前沿智能的函数调用,输入非结构化状态,输出带类型的概率化判断。
概率与置信度不是一个东西
官方文档反复强调的一个区分值得单独拎出来。概率回答的是模型倾向于哪个答案,置信度回答的是模型觉得自己在这个输入上是否可信。举例来说,一张工单被判为技术问题的概率是 85%,如果置信度是 0.82,软件可以按这个结果路由;如果同样的 85% 出现在置信度 0.31 的输入上,合理的处理方式是转人工。
这个设计的价值在于把模型的不确定性变成软件可以判断的信号。多数团队当前的实践是让大模型带着思维链做这类判断,再用人眼抽查;Jev 的路线是把不确定性显式输出,让调用方的代码决定继续、暂停还是升级。它与我们此前观察到的治理迭代方向能够接上:权限体系解决的是这一步能不能做,置信度解决的是这一步该不该做。两者不是替代关系,而是同一套判断链条上的不同闸门。
0% 类型错误不等于 0 错误率
官方图表里有一个容易被误读的数字:类型错误率 0%。这指的是输出结构永远符合预先定义的 schema——模型不会凭空多出一个选项,也不会在该返回数字的地方返回字符串。这是架构层面的保证,不是正确性层面的保证,Jev 依然可能选错答案。
而且这个保证本身并不稀缺。任何开放模型加上受限解码都能得到相近的效果,官方对此的表述也相对克制。真正难以复制的部分是他们声称的校准:RLCD,即面向校准决策的强化学习,目标是让置信度 0.7 在大样本上对应约 70% 的正确率。这是一个关于诚实度的声明,而一个诚实的模型依然可以是错的。开发者需要在自己的数据分布上验证置信度分数与实际准确率是否对应,这件事没有替代方案。
数字的口径,以及被指出的对比偏差
定价是这次发布里传播最广的部分:输入 42 美元每十亿 token,折合每百万 token 0.042 美元,输出部分不收费。官方给出的对比是一个工作流在 Jev 上花费约 0.000081 美元、耗时 0.114 秒,而典型大模型花费 0.013880 美元、耗时 8.566 秒,据此得到快 193.6 倍、便宜 444.6 倍。官方在同一句话里补了备注:这些数字来自自家工作流的评测,实际收益很可能落在区间偏低的一端。官网另有一组四个工作流的内部评测,准确率约 68%,单个工作流成本约 0.0003 美元。
发布帖在技术社区引发了相当集中的讨论,其中一个批评点值得转述:把一次分类器形态的调用,与一次带完整思维链推理的大模型调用放在一起比较,两者的工作量并不对等。这个批评并不否定 Jev 的效率,但它意味着倍数不能直接当作替换收益来读。不过换个角度看,用带思维链的大模型做这类判断恰恰是多数团队的现状,所以这组对比测的是换成 Jev 之后能省多少,而不是两者在处理同一件事时谁更快。官方也明确表示上线阶段没有独立第三方评测。
它放进智能体架构的哪一层
官方给的使用场景里,与本赛道关系最直接的是它与智能体的配合方式。文档举到的例子包括:客服系统里先由 Jev 判断来件意图以及是否涉及退款,再由大模型组织回话;智能体每执行一步,由 Jev 检查是否偏离任务或触碰了不该修改的文件;安全事件的应急响应把一条告警拆成十多个是非题与评分题,Jev 批量作答后由代码决定关闭、排队、通知还是封禁来源。
把这些场景放在一起看,它占据的位置是控制层:分类、路由、审批、升级与结果核验。这类调用在数量上往往远多于生成调用,却长期由成本较高的模型承担。这正是 Jev 的商业逻辑所在——不替换大模型,替换大模型里被当成分类器用的那部分调用。它在架构上对应的其实是「执行前判定」这一层,而这一层过去几个月在安全与治理产品里也被反复强调,区别只是那些方案用的是规则与意图分类,这里用的是模型。
它想回答的那个老问题
把 Jev 的校准主张与近期另一组测量放在一起,可以看出它在回应什么。IBM Research 团队在 AppWorld 上的数据显示,同一个 ReAct 智能体平均成功率 77.4%,而五次重复全部成功的任务只有 53.0%,团队把原因归到各决策步上 token 概率分布的平坦程度,温度设为零也无法消除。如果单步判断的不确定性可以被显式输出并被上层代码消费,「五次全成」这类系统性失败就多了一个可介入的抓手。
需要说明的是,这两件事目前只是方向上的呼应,没有任何公开实验证明 Jev 能改善长程任务的稳定性。校准在真实业务分布上是否成立、并行评估是否会影响单次判断质量、以及把判断权交给一个不可读的模型会带来什么新的攻击面,都是尚未公开的问题。对开发团队而言,比较务实的做法是把它放在「可回退的判断点」上跑对照——先验证置信度分档与人工复核结论的一致性,再考虑扩大调用比例。
结语
Jev 值得关注的地方不在于它比谁快多少倍,而在于它把「模型输出」这件事拆成了两类:需要被人读的文本,和需要被代码消费的判断。前者的定价与优化已经卷了三年,后者长期被混在同一个接口里。把判断单独做成一种模型,至少在账面上解决了两个老问题——不确定性有了可编程的表达,和控制流的交接点从「读一段话」变成了「读一个数」。它能否成立,取决于两件事:校准在客户自己的数据上是否站得住,以及当判断出错时,责任链是否比现在更清晰。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。