omnirouteAbrir painel

openai-compatible gateway

Um endpoint. 11 provedores. Centenas de chaves girando sozinhas.

O OmniRoute distribui cada requisição entre suas chaves com round-robin ponderado, respeita os limites de cada provedor, troca de chave ou de provedor quando algo cai — e entrega sempre a mesma qualidade de resposta no formato da OpenAI.

Criar minha chaveVer modelos

Balanceamento por chave

Round-robin ponderado + LRU, com janelas de RPM/RPD por chave para nunca estourar limite.

Failover invisível

429 entra em cooldown exponencial, 401 desativa a chave, 5xx tenta a próxima. Sem o usuário perceber.

Qualidade padronizada

Calibração por tier, JSON mode e tool calling normalizados em todos os provedores.

Observabilidade

Latência p50/p95, tokens, erros e a chave exata usada em cada requisição.

Comece em 30 segundos

Compatível com qualquer SDK da OpenAI — só troque a base URL e a chave.

curl https://seu-app.lovable.app/api/public/v1/chat/completions \
  -H "Authorization: Bearer sk-omni-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "omni-balanced",
    "messages": [{ "role": "user", "content": "Olá!" }],
    "stream": true
  }'
/api/public/v1/chat/completions
chat + streaming SSE
/api/public/v1/embeddings
embeddings
/api/public/v1/models
catálogo

Pseudo-modelos

Genéricos escolhem o melhor provedor disponível; os travados forçam um provedor específico mantendo a rotação de chaves.

ModeloTierCascata
omni-fastfastGroq → Cerebras → Google Gemini → SambaNova → OpenRouter → Z.AI
omni-balancedbalancedGoogle Gemini → Groq → Cerebras → Z.AI → OpenRouter → SambaNova → Together AI
omni-smartsmartGoogle Gemini → Z.AI → OpenRouter → Cohere → Groq
omni-longlongGoogle Gemini → OpenRouter → Z.AI
groq-fastfastGroq
groq-smartsmartGroq
gemini-fastfastGoogle Gemini
gemini-balancedbalancedGoogle Gemini
gemini-smartsmartGoogle Gemini
openrouter-fastfastOpenRouter
openrouter-smartsmartOpenRouter
zai-fastfastZ.AI
zai-smartsmartZ.AI
cerebras-fastfastCerebras
sambanova-fastfastSambaNova
together-fastfastTogether AI
cohere-smartsmartCohere
opencode-fastfastOpenCode Zen
omni-embedembedJina AI → Voyage AI → Cohere → Google Gemini → Together AI
jina-embedembedJina AI
voyage-embedembedVoyage AI
cohere-embedembedCohere

Provedores suportados

GroqGROQ_KEY_NGoogle GeminiGEMINI_KEY_NOpenRouterOPENROUTER_KEY_NZ.AIZAI_KEY_NCerebrasCEREBRAS_KEY_NSambaNovaSAMBANOVA_KEY_NTogether AITOGETHER_KEY_NCohereCOHERE_KEY_NJina AIJINA_KEY_NVoyage AIVOYAGEAI_KEY_NOpenCode ZenOPENCODE_KEY_N

Declare as chaves no ambiente como GROQ_KEY_1, GROQ_KEY_2… O roteador descobre todas automaticamente.