Von 模型：3.95 亿参数的开源 System One 决策模型

Von 是 3.95 亿参数的开源 System One 决策模型，兼容 Jev 接口：安装部署、JevBench 成绩、适用边界及与 Laya 的对比。

最后更新: 2026/9/25

Von 是开发者 wfzyx 开源的 System One 决策模型，基于 ModernBERT-large，参数量 3.95 亿。它是非自回归的：一次前向计算给所有选项打分，而不是逐字生成答案。它还提供兼容 Jev 的 POST /v1/systemone 接口，可以在本地替代 TypeSafe Jev。

作者wfzyx
架构ModernBERT-large 编码器 + 选项打分头
参数量3.95 亿
上下文8,192 token
当前版本Von 1.2
许可证Apache 2.0
语言英文
问题类型choice、noul、score，以及一次回答多个问题的 system_one
运行环境CUDA、ROCm、Apple Silicon（MPS）、Intel（OpenVINO）、CPU

来源：Von GitHub 仓库和 Von 模型卡。下文数据均为项目方自己的实测。

Von 的工作原理

Von 把状态和所有候选选项拼成一个序列，每个选项带一个标记 token，模型从这些标记上直接读出每个选项的概率，从不逐字写出答案。

1.2 版改变了选项之间的注意力：每个选项只能看到状态和它自己，看不到其他选项，而且每个选项的位置编号都从头开始。因此调换选项顺序不再改变答案。项目报告，调换顺序后答案变化的比例是 0%，1.1 版是 49.5%。

安装和运行 Von

SDK 在 PyPI 和 npm 上都有：

pip install "von-sdk>=1.2.0"
# TypeScript / JavaScript
npm install von-sdk

用 Python 问一个问题：

import von

answer = von.decide(
    state="Order #123 was never delivered and the customer is asking for their money back.",
    choices={
        "refund": "Issue a refund",
        "track_order": "Help track the package",
        "escalate": "Escalate to a human agent",
    },
)

von.judge 回答是/否（noul）问题，von.rate 回答等级（score）问题，von.system_one 一次回答多个问题。

要替换托管的 Jev 接口，启动兼容 Jev 的服务，再把客户端指向它：

von serve --host 0.0.0.0 --port 8000

社区还有一个 MLX 移植版，可以在 Apple Silicon 上原生运行 Von。

Von 的 benchmark

在公开的 JevBench 分级测试上，Von 1.2 报告的结果是：简单题 100%、标准题 63.9%、困难题 38.7%。模型卡上困难题写的是 36.9%，所以这个数字请当作近似值。Von 1.1 在项目自己的 v2 benchmark（49 个任务、869 个用例）上报告的宏平均准确率是 72.0%，选择类路由是 83.0%。

速度方面，项目宣称每次决策低于 15 毫秒；1.1 版记录的是 GPU 上约 18 毫秒。延迟取决于输入长度和选项数量，请在自己的硬件上实测。

Von 与 Laya 对比

Von 和 Laya 是两款基于编码器的 System One 模型，都小到不需要大显卡就能跑：

VonLaya
编码器ModernBERT-largeModernBERT-large（英文）、mmBERT（多语言）
参数量3.95 亿4.21 亿（英文）、3.22 亿（多语言）
上下文8,192 token默认 512（英文）或 1,024（多语言）token
语言英文英文，另支持 100+ 语言
兼容 Jev 接口von servelaya-serve
微调不是项目重点有文档，见 微调 Laya

如果输入是较长的英文文本，Von 的 8,192 token 上下文是它最明显的优势。如果需要其他语言，或者需要有文档的微调流程，先从 Laya 开始。两个项目的 benchmark 都不能直接套用到你的数据上，请用自己的标注样本同时测试。

什么情况下不适合用 Von

  • 非英文输入。 模型卡只列出了英文。
  • 只有简单标签。 给每个选项写清楚描述性的判断标准时，Von 效果最好，只给一个词的标签会差一些。
  • 开放式回答。 Von 只能给你提供的选项打分，不能写文字，也不能逐步推理。

常见问题

Von 兼容 Jev 接口吗？

兼容。von serve 以 TypeSafe 原生格式提供 POST /v1/systemone。

Von 能在 CPU 上跑吗？

能。项目列出的运行环境除了 CUDA、ROCm、Apple Silicon 和 Intel OpenVINO，还包括 CPU 多线程。作为 3.95 亿参数的编码器，它是比较轻量的 System One 模型之一。

Von 1.2 更新了什么？

选项打分不再受顺序影响；重新拟合了零样本是/否先验（从 81.7% 提升到 85.1%）；新增了面向 Intel GPU 的 OpenVINO 加速。

相关阅读

最后对照 Von 仓库和模型卡核验：2026 年 9 月 25 日。