准备 State
可以先用示例,也可以带入你自己的文本、工单、邮件或结构化输入。
不用先安装,直接体验 Laya,然后继续查看模型、Benchmark 与本地运行指南。
可以测试什么
可以先从这些实际决策场景理解 Laya,再构造自己的 state 和 questions。
一次判断处理部门、紧急程度和退款意图。
在进入昂贵推理链路前,决定使用小模型、均衡模型还是 frontier model。
在请求进入下游模型或工具前识别 jailbreak 与升级处理信号。
在送入生成模型前,对检索片段做相关性评分与过滤。
用 allow / review / block 等结构化结果做审核实验,并保留人工 fallback。
对可疑邮件做分类,并判断凭据窃取风险。
测试客服分流、邮件决策、Guardrails、RAG 过滤、内容审核、模型路由以及自定义 typed-decision 输入。
使用 Laya 进行客服工单分流
choicedepartmentscoreurgencynoulrefund_requestedLaya Playground
Laya AI Playground 用来在浏览器里快速体验 Laya 的 typed decisions,不需要先搭建本地推理环境。你可以给 Laya 一段 state,例如客服工单、邮件、文本或结构化数据,再围绕这个 state 提出一个或多个结构化问题。
Laya 不是传统的生成式聊天模型,它更关注结构化决策。choice 用于从指定选项中选择结果,score 用于有序等级判断,noul 用于返回某个命题为真的概率。因此 Playground 很适合验证路由、工单分流、Guardrails、内容审核、风险信号等决策工作流。
可以先用示例,也可以带入你自己的文本、工单、邮件或结构化输入。
choice 用于标签选择,score 用于有序评分,noul 用于概率形式的是非判断。
运行 Laya,查看同一个 state 下返回的选择、评分与概率结果。
确认工作流有价值后,再安装 Laya 到本地,并使用自己的真实数据做验证。
从 Playground 到生产
准备真正使用时,可以继续根据任务选择 checkpoint、本地运行,并结合完整测试条件理解 Benchmark。
不需要。可以先直接在浏览器体验;当你准备把同样的决策工作流放进自己的项目时,再本地安装 Laya。
常见场景包括客服路由、意图分类、紧急度评分、模型或 Agent 路由、Guardrails、内容审核、RAG 过滤和概率型风险判断。
choice 从指定选项中选择结果;score 对有序等级进行判断;noul 返回一个命题成立的概率 P(true)。它们是 Laya 的三个 typed-decision primitive。
可以。Laya 提供开放权重和 Python 包,社区也已经出现 Apple Silicon、Node.js 等不同运行环境的实现。