Laya
Laya 是什么
Laya 是由开发者 NandhaKishorM 开源的决策模型与 Python 库，定位为“System 1”式非自回归决策引擎：它不做逐词生成，而是在单次前向遍历里直接输出类型化决策，覆盖 100 多种语言，单次耗时约 33 毫秒。模型用强化学习针对严格适当评分规则（RLCD）训练，并配有一个按请求挑选合适检查点的路由器。
功能上它给出可类型化的结果：是/否决策、选项选择与打分，适合客服分流、内容审核、表单判定等需要快速判断的场景，目标人群是数据科学家与需要把判定能力嵌入系统的开发者。安装只需 python -m pip install laya，要求 Python 3.10 及以上；可选扩展覆盖 HTTP 服务、MCP、LangChain、LlamaIndex、CrewAI、ONNX 与 TileLang GPU 加速，另有 TypeScript 版本 laya-ts 供 Node.js 与浏览器使用。
主要功能
如何使用 Laya
使用示例
核心优势
与同类工具对比
通用模型逐词生成回答，做判定时更慢也更贵；Laya 专为决策设计，一次前向遍历直接返回类型化结果
Transformers 是通用工具箱，需要自己选模型与调参；Laya 自带训练好的决策检查点和按请求路由
LangChain 负责编排而本身不提供决策模型；Laya 提供模型与判定接口，并可被 LangChain 直接调用
使用方式与技巧
使用方式
- Python 库（pip 安装）
- TypeScript 版本 laya-ts
- HTTP 服务扩展 laya[serve]
- MCP 服务扩展 laya[mcp]
- Hugging Face Space 在线演示
功能模式
- 是/否决策
- 类型化选项选择
- 评分输出
- 长文档判定（最多 8192 token）
- 多检查点路由
使用技巧
- 长文档务必用 laya-multilingual 并调大 max_len
- 用严格适当评分规则训练的输出来做阈值判断
- 先用在线演示验证效果再接入生产
进阶玩法
客户端下载渠道
常见问题
它不是逐词生成文本，而是在单次前向遍历里直接给出是/否、选择或打分这类类型化决策。
laya-multilingual 在 max_len=8192 时最多可读 8192 token，默认检查点限制为 1024 token。
提供 HTTP 服务、MCP、LangChain、LlamaIndex、CrewAI、ONNX 等可选扩展。
项目采用 Apache 2.0 许可。
项目信息
Laya：多语言非自回归决策引擎，单次前向遍历 33 毫秒给出类型化决策
多语言非自回归决策引擎，单次前向遍历处理文本，提供类型化选择、评分和是/否决策。