Jev 替代品：可自托管的开源 System One 模型

TypeSafe Jev 是 2026 年 9 月 15 日推出的托管模型，它提出了 System One 模型这个品类：你发送一个状态和一组结构化问题，它直接返回答案和概率，而不是生成一段文字。Jev 目前处于早期访问阶段，按 token 计费（第三方文章给出的价格是每百万输入 token 0.042 美元）。

短短几天，就出现了一批能在自己硬件上完成同样工作的开源 Jev 替代品。本页列出值得测试的几款，说明哪些可以原样接收 Jev API 请求，以及自托管要做哪些事。

为什么要找 Jev 的替代品？

数据留在自己的服务器上。 工单、邮件、用户消息都不会离开你的基础设施。
量大时成本更低。 自己部署的模型，做十次决策和做一千万次决策，成本几乎一样。
不用排队等资格。 开源模型今天就能下载。
可以微调。 开源模型能用你自己的标注数据训练，Jev 的权重不公开。
离线和边缘部署。 有些模型在笔记本 CPU 或 Apple Silicon Mac 上就能跑。

优先推荐的 Jev 替代品

如果你已经在调用 Jev，优先选择提供同样 POST /v1/systemone 接口的模型，原有代码只需要改一个接口地址：

模型	大小	许可证	兼容 Jev 接口	适合优先选择的情况
Laya	3.22 亿 / 4.21 亿	Apache 2.0	兼容（通过 laya-serve）	想要能在 CPU 上跑的小模型，或者需要 100+ 语言
Kev	0.8B 到 27B	Apache 2.0	兼容，TypeSafe SDK 不用改代码	有 GPU，想要最接近原样替换的方案
Decider	2B / 4B / 35B MoE	Apache 2.0	兼容	用 vLLM 部署，而且选项很多
Von	3.95 亿	Apache 2.0	兼容	硬件一般，但要求低延迟
OpenThai-SystemOne	0.8B	Apache 2.0	兼容	输入是泰语

其他开源方案使用各自的接口：Bespoke Nimble（9B）、GLiNER2.5-Decide（3.4 亿）、Together AI 的 Tev1-4B，以及免训练的 AnyJev 和 SemIf。12 款模型的完整对比见 System One 模型对比。

兼容 Jev API 的服务

这些项目在开源模型前面提供 Jev 风格的 HTTP 接口，以后换模型也不用改客户端代码：

服务	语言	说明
laya-serve	Python	Laya 官方包自带，见自托管 Laya
Arbiter	Python	支持路由、批处理、监控指标和内置 Playground
sys1	Rust	基于 candle，按 token 批处理，支持 CPU、CUDA、Metal
ollaya	Rust	类似 Ollama 的命令行和后台服务，按名字拉取模型
laya-server	TypeScript	Docker 镜像，带 Web 控制台和 API Key 管理

如何从 Jev 切换到自托管模型

选一个模型，在本地启动它的服务。
把客户端指向它。 用 TypeSafe SDK 的话改接口地址即可，比如 ollaya 的文档写的是 TYPESAFE_BASE_URL=http://localhost:11435。直接用 HTTP 的话，请求体不用变：

curl -X POST http://localhost:8080/v1/systemone \
  -H 'Content-Type: application/json' \
  -d '{"state":{"message":"I was charged twice"},"questions":{"refund":{"type":"noul","instructions":"Does the customer ask for a refund?"}}}'

用自己的数据对比。 把同一批标注好的请求同时发给 Jev 和新模型，比较准确率和延迟，再决定是否切换正式流量。
重新设定阈值。 不同模型给出的概率不能直接换用。如果你按置信度阈值做自动化，要用预留的数据重新设定这个阈值。

Jev 替代品：可自托管的开源 System One 模型

为什么要找 Jev 的替代品？

优先推荐的 Jev 替代品

兼容 Jev API 的服务

如何从 Jev 切换到自托管模型

Jev 与开源替代品对比：会失去什么

常见问题

Jev 有开源版本吗？

哪款 Jev 替代品能在 CPU 上跑？

还能继续用 TypeSafe SDK 吗？

相关阅读