LiteLLM registra 576.967 visitas mensais com crescimento de +7,9% mês a mês e preços Freemium, Preço sob consulta. OpenLIT registra 6.028 visitas mensais com crescimento de -18,3% e preços Grátis.
Um gateway de IA de código aberto para mais de 100 provedores de LLM
Observabilidade e engenharia de harness para agentes de IA, open source e nativa de OpenTelemetry
| Dimensão / Métrica | | |
|---|---|---|
| Domínio oficial | litellm.ai | openlit.io |
| Modelo de preços | Freemium, Preço sob consulta | Grátis |
| Visitas mensais | 576,97 mil (576.967) | 6,03 mil (6.028) |
| Variação de tráfego mensal | +42,48 mil (+7,9%) | -1,35 mil (-18,3%) |
| Mercado principal e participação | 🇺🇸 Estados Unidos (27,9%) | 🇺🇸 Estados Unidos (53,6%) |
| Visitas diretas / mês | 228,97 mil | 2,38 mil |
| Avaliação dos usuários | 4,8 | 4,7 |
| Plataformas suportadas | Site | Site |
Um gateway de IA de código aberto para mais de 100 provedores de LLM
Chame mais de 100 provedores e 1.800 modelos com um único formato de requisição e troque de modelo sem alterar o código da aplicação.
Emita chaves com escopo por time, projeto ou app, defina tetos mensais de gasto e veja quem gera uso e custo.
Distribua tráfego entre implantações, repita em caso de falha e recorra automaticamente a outro modelo quando um provedor cai.
Painéis com volume de requisições, tokens e custo por modelo, com integrações de log e análise.
Observabilidade e engenharia de harness para agentes de IA, open source e nativa de OpenTelemetry
Captura traces e métricas OpenTelemetry para cada chamada a LLM, invocação de ferramenta, recuperação e passo de agente, e filtra-os por utilizador, sessão, custo, latência ou metadados personalizados.
Avalia tráfego de produção ou experiências com LLM-as-a-judge, verificações heurísticas ou revisão humana para medir precisão, relevância e segurança ao longo do tempo.
Gere e versiona prompts no Prompt Hub e depois publica, reverte e atualiza prompts sem lançar novo código da aplicação.
Guarda e roda chaves de API da OpenAI, Anthropic e de outros fornecedores de LLM fora do código, num cofre encriptado.
Oferece um catálogo massivo de modelos hospedados com acesso instantâneo, mas requer a confiança em uma plataforma de terceiros em vez de auto-hospedagem.
Oferece um catálogo massivo de modelos hospedados com acesso instantâneo, mas requer a confiança em uma plataforma de terceiros em vez de auto-hospedagem.
Grátis / Código abertoExecute e construa com modelos de IA abertos localmente ou na nuvem
Grátis / Código abertoExecute e construa com modelos de IA abertos localmente ou na nuvem
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Oferece failover automatizado de modelos e governança de orçamento por meio de um gateway de API, mas com menos customização de código aberto.
Oferece failover automatizado de modelos e governança de orçamento por meio de um gateway de API, mas com menos customização de código aberto.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Grátis / Código abertoObservabilidade, avaliação e melhoria contínua de agentes para IA em produção
Grátis / Código abertoObservabilidade, avaliação e melhoria contínua de agentes para IA em produção
Gateway de IA, observabilidade e guardrails para apps LLM em produção
Oferece roteamento de IA gerenciado com vários provedores e rastreamento de custos, mas carece da flexibilidade nativa de código aberto do LiteLLM.
Grátis / Código abertoUma alternativa de código aberto para unificar provedores de LLM, mas apresenta um ecossistema menos extenso de integrações de middleware.
Grátis / Código abertoUma alternativa de código aberto para unificar provedores de LLM, mas apresenta um ecossistema menos extenso de integrações de middleware.
Grátis / Código abertoConstrua, simule, avalie e monitore agentes de IA que se aperfeiçoam sozinhos
Grátis / Código abertoConstrua, simule, avalie e monitore agentes de IA que se aperfeiçoam sozinhos
Grátis / Código abertoMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
Grátis / Código abertoMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
Grátis / Código abertoGateway de IA open source com observabilidade e avaliações integradas
Grátis / Código abertoGateway de IA open source com observabilidade e avaliações integradas
