决策模型全景

System One Models 与 Typed Decision Engines

System One 模型(也叫 typed decision engine,结构化决策引擎)针对输入回答结构化问题,直接返回概率,而不是生成一段文字。TypeSafe 在 2026 年 9 月 15 日用 Jev 提出了这个品类,几天之内就涌现出一批开源模型。本页把它们放在一起对比,所有信息都来自各项目的公开资料。

已于 2026/10/2 对照各项目的公开资料核实。

同样的问题,谁更准? 查看 System One 基准测试

模型技术路线大小许可证运行环境Jev 接口语言来源
TypeSafe Jev

出品 TypeSafe AI

提出 System One 这个名称,以及 choice、score、noul 三种问题类型的托管模型。已全面开放使用,按 token 计费。

托管模型未公开闭源只能在 TypeSafe 云端调用参考标准取决于服务商TypeSafe 文档
Liquid AI d1

出品 Liquid AI

Liquid AI 在 2026 年 9 月 29 日推出托管版 d1,有免费额度(模型名 d1:free)。10 月 5 日又在 Hugging Face 发布开放权重:d1-3B(文本 + 图片,基于 LFM2.5-VL-3B,32K 上下文)和 d1-omni-600M(文本 + 图片或音频)。Liquid 称 d1-3B 在 Decision Index 0.2.1 上得 48.57 分,是 10B 以下最高(自测)。

托管模型 + 开放权重模型d1-3B(3.1B)、d1-omni-600M(5.87 亿);托管版 d1 未公开LFM Open License v1.0(开放权重);托管版 d1 闭源Liquid API,或自己的硬件(据 Liquid,d1-3B 在 RTX 4090 上每次决策 8 毫秒,Apple M5 Pro 上 30 毫秒)托管版支持 POST /decisions/v1/systemone,可直接用 TypeSafe SDK;开放权重版通过 Transformers 调用,问题格式相同d1-3B 模型卡列出 16 种;d1-3B 还能读图片,d1-omni-600M 能读图片或音频LiquidAI/d1-3B(Hugging Face)
OpenAI Decisions API

出品 OpenAI

2026 年 9 月 29 日 DevDay 发布,10 月 6 日起公开测试:每百万 input token $0.10,输出和缓存不收费。choice 和 score 答案返回各选项概率和置信度;OpenAI 称比 Responses API 快约 10 倍。

托管模型未公开(GPT-6 Luna 的一个版本)闭源只能通过 OpenAI API 调用不兼容,自有接口(POST /v1/decisions),问题类型为 predicate、choice、score未说明;可输入文本或图片OpenAI Decisions 文档
Microsoft-Decision-1

出品 Microsoft

2026 年 10 月 9 日发布,已在 Microsoft Foundry 上线(目录标注为预览版),每百万 input token $0.042(和 Jev 相同),输出免费。微软称在 36 个基准上准确率最高、中位延迟比 GPT-6 Sol 低约 35 倍(自测),对比名单里没有 Clef,Jev 是后来更新时才补上的。

托管模型(基于 Qwen3.5-9B 后训练)9B闭源只能在 Microsoft Foundry 上调用请求体沿用 Jev(noul、choice、score),接口是 Azure 自己的 /providers/microsoft/v1/systemone未说明;只接受文本或 JSON,最长 32,768 token微软发布文章
Cloudflare Clef

出品 Cloudflare

2026 年 10 月 1 日发布,权重在 Hugging Face 开源,同时上线 Workers AI。10 月 9 日新增能读音频的 Clef-Omni(每百万 input token $0.15),并把 Clef-Flash 降到 $0.038,比 Jev 便宜,托管上下文改为 24,576 token。Cloudflare 称 Clef 在 10 项决策基准中有 7 项超过 Jev,Clef-Flash 中位延迟 38.8 毫秒(官方自测)。

微调的 Qwen 模型 + 联合决策头27B(Clef)/ 9B(Clef-Flash)/ 30B-A3B(Clef-Omni)Apache 2.0Workers AI,或自己的大显存 GPU(官方在单张 H200 上测试)兼容,请求和返回格式与 Jev / SystemOne 一致未说明;可输入文本、JSON、图片和视频,Clef-Omni 还能读音频Hugging Face 上的 Cloudflare/clef
Laya

出品 Convai Innovations

在 ModernBERT 和 mmBERT 编码器上加非自回归的 choice、score、noul 决策头,提供 Router、微调流程和大量社区运行时。

编码器 + 决策头3.22 亿 / 4.21 亿Apache 2.0CPU、CUDA、Apple Silicon兼容(通过 laya-serve)英文,另有支持 100+ 语言的 checkpointNandhaKishorM/laya
Kev

出品 Jared Palmer

基于 Qwen3.5 和 Qwen3.8 的小型类 Jev 模型。每个 checkpoint 都附带校准好的温度参数,可以在 Modal 上一键微调和部署。

基于 Qwen 微调0.8B / 4B / 9B / 27BApache 2.0Apple Silicon Mac(0.8B)到单张 80 GB 显卡(27B)兼容,TypeSafe SDK 不用改代码未说明jaredpalmer/kev
OpenDecider

出品 Manjunath Shiva

从两个开源大模型蒸馏而来。400M 的 nano 模型在 typed-decisions 基准上得分 0.796,Laya 微调版为 0.766,Jev 为 0.754(作者实测)。刚发布不久,更新很快。

训练的编码器(nano);基于 Qwen 微调(small、medium)约 400M / 4B / 30B MoEApache 2.0CPU、CUDA、Apple Silicon(有 MLX 版);30B 需要多张 NVIDIA 显卡支持,`opendecider serve`(0.2.0 起):POST /v1/systemone 和 /batch英语(目前只在英语上评估过)manjunathshiva/opendecider
Decider

出品 Mapika

一次前向计算完成结构化决策并输出校准概率,训练数据来自公开数据集和本地 Qwen3.5-27B 标注。choice 支持 2 到 255 个选项。

基于 Qwen 微调2B / 4B / 35B MoEApache 2.0本地 GPU、vLLM 服务兼容(/v1/systemone 接口)未说明Mapika/decider
Von

出品 wfzyx

基于 ModernBERT-Large。1.2 版对每个选项单独打分,答案不再受选项排列顺序影响。

编码器,非自回归3.95 亿Apache 2.0本地 CPU 或 GPU兼容(/v1/systemone 服务)英文wfzyx/von
Bespoke Nimble

出品 Bespoke Labs

公开了 Bespoke-Nimble-9B 背后的数据整理、训练和部署方案。目前支持 8,192 token 的输入,每个字段最多 255 个选项。

微调模型 + 完整训练方案9B仓库未注明Apple Silicon、NVIDIA GPU不兼容,使用自己的 schema 格式未说明bespokelabsai/nimble
SemIf(原名 OpenJev)

出品 TheoLeeCJ

直接从冻结的开源模型读取各选项的概率,不生成答案文本、不解析 JSON,并按任务做温度校准。

免训练,直接读取开源大模型的选项概率取决于所用模型(测试过 2B 到 27B)MITRTX 3090、Apple Silicon、浏览器(WebGPU 演示)复刻了接口模式取决于所用模型TheoLeeCJ/SemIf-OpenJev
Rizzo Flow

出品 Rizzo AI Academy

在本地实现 Jev 思路的项目,对 Spark-X2.5 做了 LoRA 微调。项目报告在 typed-decisions 上得分 0.648,Jev 为 0.727;并说明概率默认未经校准,需要用自己的数据校准。

基于 llama.cpp 的微调大模型(Spark-X2.5)1.7B / 4BApache 2.0llama.cpp:CUDA、Metal、Vulkan、ROCm、SYCL 或 CPU兼容(POST /v1/systemone)未说明Rizzo-AI-Academy/rizzo-flow
AnyJev

出品 Nokia Applied Research

读取现有大模型的隐藏状态,把它变成 Jev 式的决策模型,带去偏和分级校准,不需要针对任务训练。

免训练,架在现有大模型上的库取决于所用模型Apache 2.0Hugging Face 模型、vLLM 服务提供自己的决策接口取决于所用模型nokia-applied-research/AnyJev
NanoJev

出品 TianyuCodings

一个精简的复刻版,附带端到端训练流程,在 ViZDoom、迷宫、贪吃蛇等游戏任务上和 Jev 做了对比。

小型并行决策模型0.6BMIT本地 GPU未说明未说明TianyuCodings/NanoJev
Tev1-4B-experimental

出品 Together AI

2026 年 9 月 23 日发布的 Qwen3.5-4B 实验性微调版,同时公开了训练数据方案和训练类似分类器的教程。

微调大模型,只输出一个选项字母4B权重许可证确定中;代码为 MITTogether API,或用 Transformers、GGUF 自行部署不兼容,走对话接口,每次 2 到 24 个选项未说明togethercomputer/Tev1-4B-experimental
GLiNER2.5-Decide

出品 Fastino

调用时传入标签集,一次计算可以同时给多个问题打分。面向意图识别、路由、情感、优先级等业务决策。

编码器分类模型3.4 亿(另有 1B 版和 2.87 亿多语言版)Apache 2.0CPU 或 GPU,使用 gliner2 包不兼容,使用自己的 classify_text 接口英文,另有多语言版本fastino/GLiNER2.5-Decide
OpenThai-SystemOne

出品 iApp Technology

把 Qwen3.5-0.8B 的输出头换成 256 路槽位 softmax,并在泰语语料上继续预训练。

微调模型 + 槽位输出头0.8BApache 2.0CUDA、MPS、CPU兼容(与 POST /v1/systemone 一致)泰语、英语iapp-technology/openthai-systemone
djev (DiffusionGemma-Jev)

出品 mmastrac

通过 vLLM 在一次去噪步骤中从离散扩散模型 DiffusionGemma 读取 Jev 式决策。分支项目 djev-dev 增加了原生图片输入和实时摄像头采样。

免训练,从扩散语言模型读取决策DiffusionGemma(DGX Spark 方案为 26B-A4B)Apache 2.0NVIDIA GPU + vLLM兼容(POST /v1/systemone)未说明mmastrac/djev
Jev-Omni

出品 akhilaaa3

支持文本、图片、音频和视频的决策分类器,用 3 万道题微调:为每个选项给出概率,而不是生成解释。自报在匹配的 JevBench 题组上为 86.15%。

微调的多模态模型12B(Gemma 4 12B)Apache 2.0NVIDIA GPU未说明未说明akhilaaa3/Jev-Omni
Open-Jev

出品 Zefan Cai

在 Qwen3.5 上加一个训练好的决策头,对调用方给出的候选项打分,回答 choice、noul、score 问题,不生成答案文字。

LoRA 适配器 + 标量决策头2B、9B、27B(Qwen3.5)Apache 2.0NVIDIA GPU兼容(本地 /v1/systemone 服务)未说明Zefan-Cai/Open-Jev
JevK5

出品 alibiserikbay

合并了 LoRA 的 Qwen3.5-4B,按 SemIf 的方法读取选项概率并用一个温度校准。选项超过 16 个时分多轮读取。

微调大模型 + 校准的选项字母读取4B(Qwen3.5-4B)Apache 2.0本地 GPU兼容(TypeSafe 式 /v1/systemone 运行时)英文allebee/jevk5
open-jev-deberta-v3-large

出品 kotoba-lang

独立复现 Jev 的接口形态:choice(最多 255 个选项)、score(2–10 档)和 noul,一次前向计算,用公开的标准答案评测。

编码器,非自回归4.34 亿(DeBERTa-v3-large)Apache 2.0本地 CPU 或 GPU不兼容,Python 库英文com-kotobalabs/open-jev-deberta-v3-large
AgentJev

出品 malevrigns

去掉语言模型头,改用候选项头给选项打分。已发布的 checkpoint 用来判断一个编程任务是否真正完成。

大模型骨干 + 与顺序无关的候选项头0.6B(Qwen3-0.6B)Apache 2.0本地 CPU 或 GPU不兼容,自带服务和客户端英文、中文malevrigns/agent-jev
Jev-Style

出品 chaoliangUNSW

GGUF 格式的决策模型,从一个 token 读出校准过的选项概率。v3 自报在 2,000 道类型化决策题上为 79.2%,可输入 25,600 token。

微调大模型,单 token 决策(GGUF)0.8B(v3);2B(v1)Apache 2.0llama.cpp、LM Studio(CPU 或 GPU)不兼容,使用带 logprobs 的 chat completions51 种(v3)jevstyle.com
Anarkali

出品 ToufiqQureshi

68M 的编码器模型,在公开的 typed-decisions 基准上超过 Jev(74.0% 对 72.7%),体积只有 Laya 的六分之一却只差 2.6 个百分点,三者中校准误差最低(作者自测)。

训练编码器(Ettin),非自回归68MApache 2.0单个 273 MB ONNX 文件,CPU 或 GPU 均可支持,POST /v1/systemone仅英文ToufiqQureshi/anarkali
Jeeves

出品 PostHog

先思考再作答:在 JevBench 公开题上得分 0.935,Jev 为 0.866(困难档 0.865 对 0.730);单张 H100 上不思考约 0.3 秒一次,思考时中位数 3.3 秒。MMLU-Pro 上仍是 Jev 领先(作者自测)。

微调大模型(LoRA + 指针头),先推理再判断9B(Qwen3.5-9B)代码 MIT,权重 Apache 2.0CUDA GPU(FP8 内核需要 Hopper 架构)支持,本地 /v1/systemone 服务未说明PostHog/jeeves
OpenJev-4B

出品 ejhshen(Junhao Shen)

选项和评判标准都作为输入,输出跟着每次请求给的候选项走,调换选项顺序不影响结果。先 SFT 再强化学习,训练数据 OpenJevData-140k 公开,附训练代码。

大模型主干 + 选项集决策头,非自回归4B(Qwen3.5-4B)MITCUDA GPU支持,本地 /v1/systemone 服务未说明ejhshen/OpenJev

哪一款适合你?

已经在用 Jev,想改成自己部署

优先看支持 POST /v1/systemone 接口的模型:Laya(通过 laya-serve)、Kev、Decider、OpenDecider、Von、OpenThai-SystemOne。原有代码只需要改接口地址。

只有 CPU 服务器,或者要求低延迟

编码器类模型体积最小:Laya(3.22 亿到 4.21 亿参数)、Von(3.95 亿)、GLiNER2.5-Decide(3.4 亿)。

有大显卡,追求最高准确率

更大的微调模型,比如 Kev-9B 或 Kev-27B、Decider 35B MoE、Bespoke Nimble 9B;能接受每次多等几秒推理的话,也可以试 Jeeves 9B。切换前请用自己的数据实测。

输入不是英文

laya-multilingual 支持 100+ 语言;OpenThai-SystemOne 专攻泰语和英语;GLiNER2.5-multi-Decide 是 Fastino 的多语言版本。

想用 Jev 以外的托管 API

Liquid AI d1 使用同一套 System One 接口,有免费额度,改接口地址和模型名即可切换。Cloudflare Workers AI 提供 Clef 和 Clef-Flash,请求体相同,但要换成 Cloudflare 的接口地址和 API token;权重也可以自己部署。Microsoft Foundry 上的 Microsoft-Decision-1 也用同样的请求体,但接口地址是 Azure 的,价格和 Jev 相同(每百万 input token $0.042)。OpenAI Decisions API 已公开测试、所有开发者可用(每百万 input token $0.10),但请求格式是它自己的一套。

完全不想训练

AnyJev、SemIf 这类免训练方案,可以直接从你已经在跑的开源大模型里读出决策。

想替换 Jev?

看看哪些开源模型和服务可以原样接收 Jev 请求,以及切换要做哪些事。

对比 Jev 替代品

System One 模型有什么不同?

System One 模型读取一个状态(工单、邮件或一段 JSON)和一组结构化问题,一次计算就返回答案,以及每个可选项的概率,不需要生成或解析自由文本。

上面这些项目的实现路线各不相同:有的训练带决策头的编码器(Laya、Von),有的微调开源大模型(Kev、Decider、Nimble、Tev1、Rizzo Flow),有的不训练、直接从现有大模型里读出决策(AnyJev、SemIf)。路线不同,模型大小、需要的硬件、概率的校准方式也不同。

这个领域的 benchmark 还很新,而且大多是各项目自己在不同数据集上测的。选择前请综合比较部署方式、校准、语言覆盖、选项数量和延迟,并用自己的标注数据实测。