决策模型全景
System One Models 与 Typed Decision Engines
System One 模型(也叫 typed decision engine,结构化决策引擎)针对输入回答结构化问题,直接返回概率,而不是生成一段文字。TypeSafe 在 2026 年 9 月 15 日用 Jev 提出了这个品类,几天之内就涌现出一批开源模型。本页把它们放在一起对比,所有信息都来自各项目的公开资料。
已于 2026/10/2 对照各项目的公开资料核实。
同样的问题,谁更准? 查看 System One 基准测试
| 模型 | 技术路线 | 大小 | 许可证 | 运行环境 | Jev 接口 | 语言 | 来源 |
|---|---|---|---|---|---|---|---|
| TypeSafe Jev 出品 TypeSafe AI 提出 System One 这个名称,以及 choice、score、noul 三种问题类型的托管模型。已全面开放使用,按 token 计费。 | 托管模型 | 未公开 | 闭源 | 只能在 TypeSafe 云端调用 | 参考标准 | 取决于服务商 | TypeSafe 文档 |
| Liquid AI d1 出品 Liquid AI Liquid AI 在 2026 年 9 月 29 日推出托管版 d1,有免费额度(模型名 d1:free)。10 月 5 日又在 Hugging Face 发布开放权重:d1-3B(文本 + 图片,基于 LFM2.5-VL-3B,32K 上下文)和 d1-omni-600M(文本 + 图片或音频)。Liquid 称 d1-3B 在 Decision Index 0.2.1 上得 48.57 分,是 10B 以下最高(自测)。 | 托管模型 + 开放权重模型 | d1-3B(3.1B)、d1-omni-600M(5.87 亿);托管版 d1 未公开 | LFM Open License v1.0(开放权重);托管版 d1 闭源 | Liquid API,或自己的硬件(据 Liquid,d1-3B 在 RTX 4090 上每次决策 8 毫秒,Apple M5 Pro 上 30 毫秒) | 托管版支持 POST /decisions/v1/systemone,可直接用 TypeSafe SDK;开放权重版通过 Transformers 调用,问题格式相同 | d1-3B 模型卡列出 16 种;d1-3B 还能读图片,d1-omni-600M 能读图片或音频 | LiquidAI/ |
| OpenAI Decisions API 出品 OpenAI 2026 年 9 月 29 日 DevDay 发布,10 月 6 日起公开测试:每百万 input token $0.10,输出和缓存不收费。choice 和 score 答案返回各选项概率和置信度;OpenAI 称比 Responses API 快约 10 倍。 | 托管模型 | 未公开(GPT-6 Luna 的一个版本) | 闭源 | 只能通过 OpenAI API 调用 | 不兼容,自有接口(POST /v1/decisions),问题类型为 predicate、choice、score | 未说明;可输入文本或图片 | OpenAI Decisions 文档 |
| Microsoft-Decision-1 出品 Microsoft 2026 年 10 月 9 日发布,已在 Microsoft Foundry 上线(目录标注为预览版),每百万 input token $0.042(和 Jev 相同),输出免费。微软称在 36 个基准上准确率最高、中位延迟比 GPT-6 Sol 低约 35 倍(自测),对比名单里没有 Clef,Jev 是后来更新时才补上的。 | 托管模型(基于 Qwen3.5-9B 后训练) | 9B | 闭源 | 只能在 Microsoft Foundry 上调用 | 请求体沿用 Jev(noul、choice、score),接口是 Azure 自己的 /providers/microsoft/v1/systemone | 未说明;只接受文本或 JSON,最长 32,768 token | 微软发布文章 |
| Cloudflare Clef 出品 Cloudflare 2026 年 10 月 1 日发布,权重在 Hugging Face 开源,同时上线 Workers AI。10 月 9 日新增能读音频的 Clef-Omni(每百万 input token $0.15),并把 Clef-Flash 降到 $0.038,比 Jev 便宜,托管上下文改为 24,576 token。Cloudflare 称 Clef 在 10 项决策基准中有 7 项超过 Jev,Clef-Flash 中位延迟 38.8 毫秒(官方自测)。 | 微调的 Qwen 模型 + 联合决策头 | 27B(Clef)/ 9B(Clef-Flash)/ 30B-A3B(Clef-Omni) | Apache 2.0 | Workers AI,或自己的大显存 GPU(官方在单张 H200 上测试) | 兼容,请求和返回格式与 Jev / SystemOne 一致 | 未说明;可输入文本、JSON、图片和视频,Clef-Omni 还能读音频 | Hugging Face 上的 Cloudflare/ |
| Laya 出品 Convai Innovations 在 ModernBERT 和 mmBERT 编码器上加非自回归的 choice、score、noul 决策头,提供 Router、微调流程和大量社区运行时。 | 编码器 + 决策头 | 3.22 亿 / 4.21 亿 | Apache 2.0 | CPU、CUDA、Apple Silicon | 兼容(通过 laya-serve) | 英文,另有支持 100+ 语言的 checkpoint | NandhaKishorM/ |
| Kev 出品 Jared Palmer 基于 Qwen3.5 和 Qwen3.8 的小型类 Jev 模型。每个 checkpoint 都附带校准好的温度参数,可以在 Modal 上一键微调和部署。 | 基于 Qwen 微调 | 0.8B / 4B / 9B / 27B | Apache 2.0 | Apple Silicon Mac(0.8B)到单张 80 GB 显卡(27B) | 兼容,TypeSafe SDK 不用改代码 | 未说明 | jaredpalmer/ |
| OpenDecider 出品 Manjunath Shiva 从两个开源大模型蒸馏而来。400M 的 nano 模型在 typed-decisions 基准上得分 0.796,Laya 微调版为 0.766,Jev 为 0.754(作者实测)。刚发布不久,更新很快。 | 训练的编码器(nano);基于 Qwen 微调(small、medium) | 约 400M / 4B / 30B MoE | Apache 2.0 | CPU、CUDA、Apple Silicon(有 MLX 版);30B 需要多张 NVIDIA 显卡 | 支持,`opendecider serve`(0.2.0 起):POST /v1/systemone 和 /batch | 英语(目前只在英语上评估过) | manjunathshiva/ |
| Decider 出品 Mapika 一次前向计算完成结构化决策并输出校准概率,训练数据来自公开数据集和本地 Qwen3.5-27B 标注。choice 支持 2 到 255 个选项。 | 基于 Qwen 微调 | 2B / 4B / 35B MoE | Apache 2.0 | 本地 GPU、vLLM 服务 | 兼容(/v1/systemone 接口) | 未说明 | Mapika/ |
| Von 出品 wfzyx 基于 ModernBERT-Large。1.2 版对每个选项单独打分,答案不再受选项排列顺序影响。 | 编码器,非自回归 | 3.95 亿 | Apache 2.0 | 本地 CPU 或 GPU | 兼容(/v1/systemone 服务) | 英文 | wfzyx/ |
| Bespoke Nimble 出品 Bespoke Labs 公开了 Bespoke-Nimble-9B 背后的数据整理、训练和部署方案。目前支持 8,192 token 的输入,每个字段最多 255 个选项。 | 微调模型 + 完整训练方案 | 9B | 仓库未注明 | Apple Silicon、NVIDIA GPU | 不兼容,使用自己的 schema 格式 | 未说明 | bespokelabsai/ |
| SemIf(原名 OpenJev) 出品 TheoLeeCJ 直接从冻结的开源模型读取各选项的概率,不生成答案文本、不解析 JSON,并按任务做温度校准。 | 免训练,直接读取开源大模型的选项概率 | 取决于所用模型(测试过 2B 到 27B) | MIT | RTX 3090、Apple Silicon、浏览器(WebGPU 演示) | 复刻了接口模式 | 取决于所用模型 | TheoLeeCJ/ |
| Rizzo Flow 出品 Rizzo AI Academy 在本地实现 Jev 思路的项目,对 Spark-X2.5 做了 LoRA 微调。项目报告在 typed-decisions 上得分 0.648,Jev 为 0.727;并说明概率默认未经校准,需要用自己的数据校准。 | 基于 llama.cpp 的微调大模型(Spark-X2.5) | 1.7B / 4B | Apache 2.0 | llama.cpp:CUDA、Metal、Vulkan、ROCm、SYCL 或 CPU | 兼容(POST /v1/systemone) | 未说明 | Rizzo-AI-Academy/ |
| AnyJev 出品 Nokia Applied Research 读取现有大模型的隐藏状态,把它变成 Jev 式的决策模型,带去偏和分级校准,不需要针对任务训练。 | 免训练,架在现有大模型上的库 | 取决于所用模型 | Apache 2.0 | Hugging Face 模型、vLLM 服务 | 提供自己的决策接口 | 取决于所用模型 | nokia-applied-research/ |
| NanoJev 出品 TianyuCodings 一个精简的复刻版,附带端到端训练流程,在 ViZDoom、迷宫、贪吃蛇等游戏任务上和 Jev 做了对比。 | 小型并行决策模型 | 0.6B | MIT | 本地 GPU | 未说明 | 未说明 | TianyuCodings/ |
| Tev1-4B-experimental 出品 Together AI 2026 年 9 月 23 日发布的 Qwen3.5-4B 实验性微调版,同时公开了训练数据方案和训练类似分类器的教程。 | 微调大模型,只输出一个选项字母 | 4B | 权重许可证确定中;代码为 MIT | Together API,或用 Transformers、GGUF 自行部署 | 不兼容,走对话接口,每次 2 到 24 个选项 | 未说明 | togethercomputer/ |
| GLiNER2.5-Decide 出品 Fastino 调用时传入标签集,一次计算可以同时给多个问题打分。面向意图识别、路由、情感、优先级等业务决策。 | 编码器分类模型 | 3.4 亿(另有 1B 版和 2.87 亿多语言版) | Apache 2.0 | CPU 或 GPU,使用 gliner2 包 | 不兼容,使用自己的 classify_text 接口 | 英文,另有多语言版本 | fastino/ |
| OpenThai-SystemOne 出品 iApp Technology 把 Qwen3.5-0.8B 的输出头换成 256 路槽位 softmax,并在泰语语料上继续预训练。 | 微调模型 + 槽位输出头 | 0.8B | Apache 2.0 | CUDA、MPS、CPU | 兼容(与 POST /v1/systemone 一致) | 泰语、英语 | iapp-technology/ |
| djev (DiffusionGemma-Jev) 出品 mmastrac 通过 vLLM 在一次去噪步骤中从离散扩散模型 DiffusionGemma 读取 Jev 式决策。分支项目 djev-dev 增加了原生图片输入和实时摄像头采样。 | 免训练,从扩散语言模型读取决策 | DiffusionGemma(DGX Spark 方案为 26B-A4B) | Apache 2.0 | NVIDIA GPU + vLLM | 兼容(POST /v1/systemone) | 未说明 | mmastrac/ |
| Jev-Omni 出品 akhilaaa3 支持文本、图片、音频和视频的决策分类器,用 3 万道题微调:为每个选项给出概率,而不是生成解释。自报在匹配的 JevBench 题组上为 86.15%。 | 微调的多模态模型 | 12B(Gemma 4 12B) | Apache 2.0 | NVIDIA GPU | 未说明 | 未说明 | akhilaaa3/ |
| Open-Jev 出品 Zefan Cai 在 Qwen3.5 上加一个训练好的决策头,对调用方给出的候选项打分,回答 choice、noul、score 问题,不生成答案文字。 | LoRA 适配器 + 标量决策头 | 2B、9B、27B(Qwen3.5) | Apache 2.0 | NVIDIA GPU | 兼容(本地 /v1/systemone 服务) | 未说明 | Zefan-Cai/ |
| JevK5 出品 alibiserikbay 合并了 LoRA 的 Qwen3.5-4B,按 SemIf 的方法读取选项概率并用一个温度校准。选项超过 16 个时分多轮读取。 | 微调大模型 + 校准的选项字母读取 | 4B(Qwen3.5-4B) | Apache 2.0 | 本地 GPU | 兼容(TypeSafe 式 /v1/systemone 运行时) | 英文 | allebee/ |
| open-jev-deberta-v3-large 出品 kotoba-lang 独立复现 Jev 的接口形态:choice(最多 255 个选项)、score(2–10 档)和 noul,一次前向计算,用公开的标准答案评测。 | 编码器,非自回归 | 4.34 亿(DeBERTa-v3-large) | Apache 2.0 | 本地 CPU 或 GPU | 不兼容,Python 库 | 英文 | com-kotobalabs/ |
| AgentJev 出品 malevrigns 去掉语言模型头,改用候选项头给选项打分。已发布的 checkpoint 用来判断一个编程任务是否真正完成。 | 大模型骨干 + 与顺序无关的候选项头 | 0.6B(Qwen3-0.6B) | Apache 2.0 | 本地 CPU 或 GPU | 不兼容,自带服务和客户端 | 英文、中文 | malevrigns/ |
| Jev-Style 出品 chaoliangUNSW GGUF 格式的决策模型,从一个 token 读出校准过的选项概率。v3 自报在 2,000 道类型化决策题上为 79.2%,可输入 25,600 token。 | 微调大模型,单 token 决策(GGUF) | 0.8B(v3);2B(v1) | Apache 2.0 | llama.cpp、LM Studio(CPU 或 GPU) | 不兼容,使用带 logprobs 的 chat completions | 51 种(v3) | jevstyle.com |
| Anarkali 出品 ToufiqQureshi 68M 的编码器模型,在公开的 typed-decisions 基准上超过 Jev(74.0% 对 72.7%),体积只有 Laya 的六分之一却只差 2.6 个百分点,三者中校准误差最低(作者自测)。 | 训练编码器(Ettin),非自回归 | 68M | Apache 2.0 | 单个 273 MB ONNX 文件,CPU 或 GPU 均可 | 支持,POST /v1/systemone | 仅英文 | ToufiqQureshi/ |
| Jeeves 出品 PostHog 先思考再作答:在 JevBench 公开题上得分 0.935,Jev 为 0.866(困难档 0.865 对 0.730);单张 H100 上不思考约 0.3 秒一次,思考时中位数 3.3 秒。MMLU-Pro 上仍是 Jev 领先(作者自测)。 | 微调大模型(LoRA + 指针头),先推理再判断 | 9B(Qwen3.5-9B) | 代码 MIT,权重 Apache 2.0 | CUDA GPU(FP8 内核需要 Hopper 架构) | 支持,本地 /v1/systemone 服务 | 未说明 | PostHog/ |
| OpenJev-4B 出品 ejhshen(Junhao Shen) 选项和评判标准都作为输入,输出跟着每次请求给的候选项走,调换选项顺序不影响结果。先 SFT 再强化学习,训练数据 OpenJevData-140k 公开,附训练代码。 | 大模型主干 + 选项集决策头,非自回归 | 4B(Qwen3.5-4B) | MIT | CUDA GPU | 支持,本地 /v1/systemone 服务 | 未说明 | ejhshen/ |
哪一款适合你?
已经在用 Jev,想改成自己部署
优先看支持 POST /v1/systemone 接口的模型:Laya(通过 laya-serve)、Kev、Decider、OpenDecider、Von、OpenThai-SystemOne。原有代码只需要改接口地址。
只有 CPU 服务器,或者要求低延迟
编码器类模型体积最小:Laya(3.22 亿到 4.21 亿参数)、Von(3.95 亿)、GLiNER2.5-Decide(3.4 亿)。
有大显卡,追求最高准确率
更大的微调模型,比如 Kev-9B 或 Kev-27B、Decider 35B MoE、Bespoke Nimble 9B;能接受每次多等几秒推理的话,也可以试 Jeeves 9B。切换前请用自己的数据实测。
输入不是英文
laya-multilingual 支持 100+ 语言;OpenThai-SystemOne 专攻泰语和英语;GLiNER2.5-multi-Decide 是 Fastino 的多语言版本。
想用 Jev 以外的托管 API
Liquid AI d1 使用同一套 System One 接口,有免费额度,改接口地址和模型名即可切换。Cloudflare Workers AI 提供 Clef 和 Clef-Flash,请求体相同,但要换成 Cloudflare 的接口地址和 API token;权重也可以自己部署。Microsoft Foundry 上的 Microsoft-Decision-1 也用同样的请求体,但接口地址是 Azure 的,价格和 Jev 相同(每百万 input token $0.042)。OpenAI Decisions API 已公开测试、所有开发者可用(每百万 input token $0.10),但请求格式是它自己的一套。
完全不想训练
AnyJev、SemIf 这类免训练方案,可以直接从你已经在跑的开源大模型里读出决策。
想替换 Jev?
看看哪些开源模型和服务可以原样接收 Jev 请求,以及切换要做哪些事。
对比 Jev 替代品System One 模型有什么不同?
System One 模型读取一个状态(工单、邮件或一段 JSON)和一组结构化问题,一次计算就返回答案,以及每个可选项的概率,不需要生成或解析自由文本。
上面这些项目的实现路线各不相同:有的训练带决策头的编码器(Laya、Von),有的微调开源大模型(Kev、Decider、Nimble、Tev1、Rizzo Flow),有的不训练、直接从现有大模型里读出决策(AnyJev、SemIf)。路线不同,模型大小、需要的硬件、概率的校准方式也不同。
这个领域的 benchmark 还很新,而且大多是各项目自己在不同数据集上测的。选择前请综合比较部署方式、校准、语言覆盖、选项数量和延迟,并用自己的标注数据实测。