上游

Laya Python / PyTorch

上游参考实现和 Router。适合作为 canonical API、checkpoint、微调和跨平台推理的起点。

参考实现Python 服务CUDA / CPU微调
快速开始
pip install laya
Source
NandhaKishorM/laya

热/冷启动、batch 与线程配置都会明显影响延迟。