Hagamos tu primera solicitud.
Conecta un proveedor, configura tu cliente y envía una solicitud con Lunar.
Inicio rápido
- 1
Conecta un proveedor
Añade tu clave de API en la consola o en tu propia instalación.
- 2
Actualiza la URL base
Conserva tu SDK. Configura el endpoint y la clave de Lunar.
- 3
Haz una llamada. Ve el contexto.
Tus solicitudes, costes y latencia aparecen juntos en Lunar.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ["LUNAR_BASE_URL"],
api_key=os.environ["LUNAR_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini",
messages=[{"role": "user", "content": "Hello, Lunar!"}],
)
print(response.choices[0].message.content)
Usa el endpoint y la clave de tu workspace de Lunar.
Primeros pasos
Instala Lunar, configura tu primera ruta y envía tu primera solicitud.
Modelos y proveedores
Consulta los 13 proveedores y 300+ modelos. Aprende a agregar los tuyos.
Estrategias de ruteo
Balanceo de carga, fallbacks, ruteo semántico y ruteo por costo.
Observabilidad
Trazas en ClickHouse, seguimiento de costos, monitoreo de latencia y paneles.
Evaluaciones
Compara modelos, usa IA como juez y monitorea la calidad a lo largo del tiempo.
Self-Hosting
Despliega todo el stack con Docker. ClickHouse, motor en Go, API en Python y UI.