Vamos fazer sua primeira requisição.
Conecte um provedor, configure seu cliente e envie uma requisição pela Lunar.
Início rápido
- 1
Conecte um provedor
Adicione sua chave de API no console ou na sua própria instalação.
- 2
Atualize a URL base
Mantenha seu SDK. Configure o endpoint e a chave da Lunar.
- 3
Faça uma chamada. Veja o contexto.
Suas requisições, custos e latência aparecem juntos na Lunar.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ["LUNAR_BASE_URL"],
api_key=os.environ["LUNAR_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini",
messages=[{"role": "user", "content": "Hello, Lunar!"}],
)
print(response.choices[0].message.content)
Use o endpoint e a chave do seu workspace na Lunar.
Primeiros passos
Instale a Lunar, configure sua primeira rota e envie sua primeira requisição.
Modelos e provedores
Veja todos os 13 provedores e 300+ modelos. Aprenda a adicionar os seus.
Estratégias de roteamento
Balanceamento de carga, fallbacks, roteamento semântico e roteamento por custo.
Observabilidade
Traces no ClickHouse, rastreamento de custos, monitoramento de latência e painéis.
Avaliações
Compare modelos, use IA como avaliador e acompanhe a qualidade ao longo do tempo.
Self-Hosting
Faça deploy de todo o stack com Docker. ClickHouse, engine em Go, API em Python e UI.