开源 System 1 决策模型

Laya AI：开源决策模型

面向请求路由、意图分类、紧急度评分、风险判断与概率输出的快速结构化决策模型，可在本地用一次 forward pass 完成判断，无需生成自由文本。

安装 Laya 在 GitHub 查看 Laya

Apache 2.0开放权重3 个 checkpoint100+ 语言Python 包

状态

“客户被重复扣款，并要求退款。”

Laya

choice

billing

0.94

score

urgent

2.6 / 3

noul

refund?

0.91

一次前向推理，直接返回应用可消费的结构化决策。

Laya AI 可以用来做什么？

常见 Laya AI use cases 包括 Agent 与模型路由、客服工单分流、安全 Guardrails、意图分类、风险评分和工作流升级。

Agent 与模型路由

根据当前 state 与结构化条件，决定下一步应该调用哪个工具、Agent 或模型。

客服工单分流

一次判断工单所属部门、紧急程度，以及退款、流失等关键信号。

Guardrails 与安全门

在工作流继续之前判断越狱、策略违规、滥用或是否需要升级处理。

意图分类

把文本或 JSON 输入映射到有限意图集合，不需要先生成自由文本再解析。

风险与欺诈评分

针对欺诈、钓鱼、流失等业务风险直接返回 score 或 probability。

工作流自动升级

清晰场景自动处理，不确定场景根据结构化结果 fallback 到大模型或人工审核。

Laya 如何工作

Laya AI 如何工作：Choice、Score 与 Noul

给 Laya 一个 state 和一组 typed questions，它会在一次 forward pass 中完成 choice、score 与 noul 判断，并返回应用可以直接消费的结构化结果。

choice标签 + 概率

从指定选项中选择一个结果，例如客服部门、意图或主题。

输出

→billing · 0.94

score有序评分

把输入放到一个有序量表上，例如紧急程度、严重程度或情绪。

输出

→urgent · 2.6 / 3

noulP(true)

判断一个命题为真的概率，例如流失风险、欺诈或退款请求。

输出

→refund requested · 0.91

Laya AI Models

Laya AI Models：选择合适的 Checkpoint

Laya 当前公开三个 checkpoint，应该根据语言和任务类型选择，而不是只看一个总榜。

Checkpoint	Encoder	参数	Context	适合场景
laya	ModernBERT-large	421M	512	英文任务
laya-multilingual	mmBERT-base	322M	1024	100+ 语言
laya-typed-decisions	ModernBERT-large	421M	1024	Typed decision 工作流

Laya 模型路由

根据任务选择合适的 Checkpoint

根据语言、任务类型和输出形式选择更合适的模型。

英文请求

分类、路由、内容判断

多语言请求

非英文意图与跨语言分类

Typed decisions

choice、score、noul 与概率输出

Laya Router

基础 Checkpoint

通用英文决策任务

laya

多语言 Checkpoint

100+ 语言决策任务

laya-multilingual

Typed-decisions Checkpoint

结构化 choice、score 与 noul 工作流

laya-typed-decisions

输入语言、任务类型和输出形式共同决定更合适的 checkpoint。

查看全部 Laya 模型

快速开始

用 Python 在本地运行 Laya AI

上游通过 PyPI 提供 Python 包，并推荐使用 Router 根据请求自动选择 checkpoint。

Laya 仍在快速更新，示例会持续对照上游仓库检查。

阅读安装指南

pip install laya

from laya import Router

router = Router(preload=True)

state = {"body": "I was charged twice. Please refund the duplicate."}
questions = {
    "department": {
        "type": "choice",
        "instructions": "Which department should handle this?",
        "criteria": {
            "billing": "payments and refunds",
            "technical": "bugs and outages"
        }
    },
    "refund_requested": {
        "type": "noul",
        "instructions": "Does the user explicitly request a refund?"
    }
}

result = router.predict(state, questions)

结果department=billing · refund_requested=0.91

Laya vs Jev

Laya vs Jev：开放权重、本地推理与真实取舍

两者都面向结构化决策，但开放方式、部署形态和当前能力边界不同。

LayaJev

权重

Laya开放权重 · Apache 2.0

Jev托管模型 / API

部署

Laya本地或自托管

Jev托管 API

微调

Laya公开权重与微调流程

Jev无公开权重

大量 Choice

Laya上游明确记录默认设置下会退化

Jev更适合较大的选项集合

只有保留 checkpoint、是否微调、硬件、数据集和提示条件，benchmark 数字才有可比性。

查看完整 Laya vs Jev 对比

Laya GitHub 生态

Laya Projects 与社区 Runtimes

持续追踪上游模型以及快速增长的社区 runtime、port、集成、Demo 与 benchmark。下方 GitHub 数据为 2026-09-22 快照。

上游

NandhaKishorM/laya

参考实现、模型、benchmark、Router 与微调流程。

mizorewww/laya-mlx

面向 Apple Silicon 的社区 MLX 移植。

receptron/laya

围绕 Laya 的 JavaScript / TypeScript 社区运行时。

Laya Benchmarks

Laya Benchmarks：准确率、延迟与限制

Laya 刚出现，跑分会快速变化。本站会区分上游数据与独立测试，并保留微调、硬件和数据集条件。

Typed decisions0.766

上游报告：laya-typed-decisions 微调 checkpoint 在 2,000 个 decisions 上的 accuracy。

上游 benchmark

单问题延迟32.8 ms

上游报告：laya-multilingual 在 Tesla T4 上的单问题延迟。

上游 benchmark

重要限制>20 choices

上游明确记录：默认设置下，高基数 Choice 任务会出现明显退化。

上游限制说明

0.766 来自针对该 benchmark 家族微调后的 checkpoint；基础 checkpoint 在该 benchmark 上的 zero-shot 表现明显更弱。

如何理解 Benchmark

Benchmark 数字必须和测试条件一起看

比较结果时必须同时保留 checkpoint、是否微调、数据集和硬件条件。

Accuracy 示例

Checkpoint

laya-typed-decisions

微调状态

fine-tuned

数据集

2,000 decisions

结果

0.766 accuracy

Latency 示例

Checkpoint

laya-multilingual

模型状态

warm

硬件

Tesla T4

结果

32.8 ms / query

默认设置下，大量 choice 选项可能明显退化，高基数任务需要单独测试。

探索 Laya 基准测试

Laya AI 指南与示例

优先解决开发者现在最先搜索的几个问题。

本地安装 Laya

Python 环境、安装、加载模型与第一次 Router 调用。

Laya Python 指南

编写 choice、score、noul 问题并正确消费结构化结果。

什么是 Laya？

理解 System 1 决策模型，以及它与生成式 LLM 的区别。

Laya AI 常见问题

围绕 Laya 模型与本站定位的第一批常见问题。

独立社区资源站，与 ConvAI Innovations 无隶属关系。Laya 名称、Logo 及相关标识归各自权利人所有。

Laya AI 是什么？

Laya 是一组开源、非自回归决策模型，它根据输入状态回答 choice、score 和 noul 这类结构化问题，而不是生成自由文本。

Laya 是开源的吗？

上游公开模型权重和代码，并采用 Apache 2.0 许可证。

Laya 可以本地运行吗？

可以。官方 Python 包支持在本地加载 checkpoint，社区也已经开始出现其他运行时和移植版本。

Laya 和 Jev 有什么区别？

两者都面向 typed decision 工作流。Laya 开放权重并支持自托管，而 Jev 当前以托管模型 API 为主。具体准确率和延迟需要结合任务与测试条件判断。

怎样安装 Laya AI？

使用 pip install laya 安装 Python 包，然后通过 Router 或指定 checkpoint 在本地运行。安装指南中包含 Python 版本、预加载和第一次 predict 调用。

Laya 可以在 TypeScript 或 Apple Silicon 上运行吗？

可以。社区已经出现基于 ONNX 的 JavaScript / TypeScript runtime，以及面向 Apple Silicon 的 MLX runtime。它们属于社区项目，不是 ConvAI Innovations 官方发行版。

应该选哪个 Laya checkpoint？

英文任务先评估 laya，多语言任务评估 laya-multilingual，接近 typed-decision 工作流时再测试 laya-typed-decisions。上线前应使用自己的数据集验证。

这是 Laya 官方网站吗？

不是。Laya AI 是独立社区资源站，与 ConvAI Innovations 没有隶属或官方合作关系。