Inicio rápido de Laya

Instalar Laya IA en local: inicio rápido con Python

Instala Laya con pip, precarga checkpoints con el Router, ejecuta tu primera decisión tipada y elige el modelo de Laya adecuado para Python en local.

Instalar
pip install laya

Python 3.10 o superior. El checkpoint necesario se descarga la primera vez que lo cargas. Requisitos de RAM, GPU y disco (en inglés)

Última versión: v0.4.30· 8 nov 2026
PyPI GitHub
Python
from laya import Router

router = Router(preload=True)

state = {
    "body": "I was charged twice. Please refund the duplicate."
}

questions = {
    "department": {
        "type": "choice",
        "instructions": "Which department should handle this?",
        "criteria": {
            "billing": "payments and refunds",
            "technical": "bugs and outages"
        }
    },
    "refund_requested": {
        "type": "noul",
        "instructions": "Does the user explicitly request a refund?"
    }
}

result = router.predict(state, questions)
print(result)
Empieza con una receta

Copia ejemplos completos de clasificación, enrutamiento de modelos, guardrails, RAG y más (en inglés).

Elige un runtime

Además de Python, explora MLX, Node.js / ONNX, MPS y servidores locales (en inglés).

API de Laya alojada · Usa Laya en producción sin servidor: API compatible con Jev, pago por uso y 20 llamadas gratis.

Obtener clave de API

¿Por qué precargar?

Los checkpoints de Laya son modelos locales. Construir o cargar un modelo en frío puede tardar varios segundos, así que el proyecto oficial recomienda precargarlos en cargas de trabajo de servidor.

router = Router(preload=True)

Si la memoria es limitada, el Router también ofrece controles de carga de checkpoints. Revisa la documentación oficial antes de fijar supuestos operativos en el código, porque esta API todavía cambia rápido.

Cargar un checkpoint directamente

Para un pipeline dedicado a un solo modelo:

import laya

agent = laya.load("convaiinnovations/laya")
result = agent.predict(state, questions)

¿Qué checkpoint debo cargar?

  • laya: empieza aquí para inglés.
  • laya-multilingual: evalúalo para otros idiomas, incluido el español.
  • laya-typed-decisions: evalúalo cuando tu tarea se parezca a los flujos de decisiones tipadas con los que se ajustó.

Consulta los modelos de Laya para más detalles.

Ejecutar Laya en local: CPU, GPU NVIDIA o Apple Silicon

Laya se ejecuta por completo en tu propia máquina. Elige el dispositivo al cargarlo:

import laya
from laya import Router

agent = laya.load("convaiinnovations/laya", device="cuda")  # GPU NVIDIA
router = Router(preload=True, device="mps")                # Apple Silicon

Usa "cpu" si no tienes GPU. En CPU, la configuración de hilos importa más de lo que parece; consulta Laya en CPU (en inglés) para ver latencias medidas y los ajustes recomendados.

La primera ejecución descarga los pesos desde Hugging Face: unos 808 MB para el checkpoint en inglés y 647 MB para el multilingüe. Quedan en caché, así que las siguientes ejecuciones cargan desde el disco. Para trabajar sin conexión, pasa a laya.load() un directorio local con los archivos del checkpoint, o define HF_HUB_OFFLINE=1 cuando ya estén en caché.

¿Prefieres un endpoint HTTP en lugar de llamadas desde Python? Consulta Autoalojar Laya (en inglés).

Lista de comprobación para producción

Antes de usar Laya para acciones automáticas:

  1. Evalúalo con tus propios datos etiquetados.
  2. Mide la latencia en caliente y en frío en tu hardware.
  3. Comprueba la calibración de la confianza en tu dominio.
  4. Revisa los fallos con conjuntos de opciones grandes.
  5. Añade una alternativa o una revisión humana para las decisiones con poca confianza.
  6. Fija las versiones del paquete y del modelo.

Siguientes pasos

Última verificación con el repositorio oficial: 25 de septiembre de 2026.