什么是 Laya AI？开源决策模型、原理与用途
了解 Laya AI 是什么、choice、score、noul 如何工作，它和生成式 LLM、Jev 的区别，以及适合哪些结构化决策场景。
Laya 是 ConvAI Innovations 推出的开源 非自回归决策模型。它不是逐 token 生成一段自然语言，而是针对输入状态回答结构化问题，并直接返回应用程序可以消费的结果。
上游项目定义了三种核心 primitive：
- choice：在指定选项中选择，并返回概率。
- score：把输入放到一个有序量表上。
- noul：返回某个命题为真的概率。
主要来源：Laya GitHub。
Laya 不是通用文本生成模型
如果你需要写邮件、总结、代码、解释或对话，生成式 LLM 仍然更合适。
Laya 解决的是另一类问题：软件需要得到一个短而明确的决策，例如：
- 这张工单应该去哪个客服队列？
- 这个请求有多紧急？
- 这条消息是不是钓鱼内容？
- 下一步应该路由到哪个模型？
- 用户是否表现出流失风险？
所以更准确地说，Laya 是一个 decision layer。
Laya 怎样工作
应用程序提供两类输入：
- state：文本、JSON、工单、邮件或其他文档状态。
- 针对该状态的一组结构化 questions。
模型在一次前向推理中评估这些问题，然后返回 typed outputs。
choice
当结果必须从有限标签里选一个时使用。
score
当结果属于一个有序等级时使用，例如紧急程度或风险等级。
noul
当问题是“是否成立”，同时应用又需要概率值时使用。
当前 Laya 模型
| Checkpoint | Encoder | 参数 | 默认 Context | 适合 |
|---|---|---|---|---|
laya | ModernBERT-large | 421M | 512 | 英文 |
laya-multilingual | mmBERT-base | 322M | 1024 | 100+ 语言 |
laya-typed-decisions | ModernBERT-large | 421M | 1024 | typed-decision 工作流 |
更多区别见 Laya Models。
Laya 是谁做的？
Laya 由印度喀拉拉邦的小型 AI 公司 ConvAI Innovations 开发，公司创始人兼 CEO 是 Nandakishor Mukkunnoth（Nandakishor M.）。他在 2025 年初开始做 Laya，最初是想在大模型回答生成完之前就识别出幻觉，之后以 Apache 2.0 许可证开源了代码和权重。在 2026 年 9 月的一次采访中，他表示没有专门为 Laya 融资的计划（Analytics India Magazine）。
官方资源：ConvAI Innovations 的 Laya 官方页面、GitHub 仓库 和 Hugging Face 模型。laya-ai.com 是独立的资料站，并非由 ConvAI Innovations 运营，见关于本站。
为什么 Laya 值得关注
它同时具备几个很重要的特征：
- 开放模型权重；
- Apache 2.0；
- 可以自托管；
- 官方已经提供 Python package、Router、benchmark 和微调流程；
- 发布几天后就开始出现社区运行时和移植版本。
真正值得关注的不是“某一个跑分是不是赢了”，而是一个新的开源决策模型生态正在形成。
当前限制
上游也明确记录了一些限制：
- 基础 checkpoint 在 typed-decisions benchmark 上的 zero-shot 表现较弱；较高的 0.766 来自针对该任务微调后的
laya-typed-decisions。 - 默认配置下，大量 choice 选项会导致明显退化。
- 在生产中把概率当阈值之前，需要认真验证 calibration。
- 英文和多语言 checkpoint 的优势并不相同。
不要只看标题数字，建议同时阅读上游 BENCHMARKS.md。
Laya 适合什么场景
如果你的系统需要大量结构化决策，并且重视以下能力，Laya 值得测试：
- 本地推理；
- 开放权重；
- 自定义微调；
- 可直接消费的结构化输出；
- 隐私敏感的路由；
- 高频分类；
- 基于置信度的自动化与人工升级。
更完整的对比可以看 Laya vs Jev。
由于基础 checkpoint 在自定义工作流上 zero-shot 较弱，大多数实际部署都会先做微调，见 Laya 微调教程。
想动手试试？Laya 使用教程 用一个真实任务一步步演示。
安全测试是较早出现的研究方向：2026 年 9 月的一篇 arXiv 论文研究把 Jev 和 Laya 用作大模型渗透测试 Agent 的决策层，用来减少误报、严重程度被高估和多余的大模型调用。论文的案例只跑了一次，更适合看作一个方向，还不能当作结论（arXiv 2609.28940）。
常见问题
Laya 是谁创建的？
ConvAI Innovations 的创始人兼 CEO Nandakishor Mukkunnoth，公司位于印度喀拉拉邦。他在 2025 年初开始这个项目，并以 Apache 2.0 许可证开源。
Laya 免费吗？
免费。代码和权重都以 Apache 2.0 许可证发布，可以使用、修改和自托管，包括商用，不按请求收费，只需承担运行它的硬件成本。
OpenRouter 上有 Laya 吗？
没有。OpenRouter 上没有托管的 Laya API，需要自己运行。OpenRouter 提供的是 TypeSafe 的托管模型 Jev（见 Jev 是什么？）。想运行 Laya，可以参考安装 Laya 或 Laya 与 Ollama，也可以先在 Playground 里直接试用。
最后核验：2026 年 9 月 22 日。