Ofrece un catálogo masivo de modelos alojados con acceso instantáneo, pero requiere confiar en una plataforma de terceros en lugar de autoalojarse.

LiteLLM registra 576.967 visitas mensuales con un crecimiento intermensual de +7,9 % y un modelo de precios Freemium, Precio a consultar. OpenLIT registra 6028 visitas mensuales con un crecimiento de -18,3 % y un modelo de precios Gratis.

Observabilidad y ingeniería de arneses para agentes de IA, de código abierto y nativa de OpenTelemetry
| Dimensión / Métrica | ![]() | ![]() |
|---|---|---|
| Dominio oficial | litellm.ai | openlit.io |
| Modelo de precios | Freemium, Precio a consultar | Gratis |
| Visitas mensuales | 576,97 mil (576.967) | 6,03 mil (6028) |
| Variación de tráfico intermensual |
| +42,48 mil (+7,9 %) |
| -1,35 mil (-18,3 %) |
| Mercado principal y cuota | 🇺🇸 Estados Unidos (27,9 %) | 🇺🇸 Estados Unidos (53,6 %) |
|---|
| Visitas directas / mes | 228,97 mil | 2,38 mil |
|---|
| Valoración de usuarios | 4,8 | 4,7 |
|---|
| Plataformas compatibles | Sitio web | Sitio web |
|---|

Una puerta de enlace de IA de código abierto para más de 100 proveedores de LLM
Llama a más de 100 proveedores y 1.800 modelos con un solo formato de petición y cambia de modelo sin tocar el código.
Emite claves con alcance por equipo, proyecto o aplicación, fija topes de gasto mensual y ve quién genera el uso y el coste.
Distribuye el tráfico entre despliegues, reintenta ante fallos y recurre automáticamente a otro modelo o proveedor si uno cae.
Paneles con volumen de peticiones, tokens y coste por modelo, con integración de registro y analítica.

Observabilidad y ingeniería de arneses para agentes de IA, de código abierto y nativa de OpenTelemetry
Captura trazas y métricas de OpenTelemetry para cada llamada a LLM, invocación de herramienta, recuperación y paso de agente, y fíltralas por usuario, sesión, coste, latencia o metadatos personalizados.
Puntúa el tráfico de producción o los experimentos con LLM-as-a-judge, comprobaciones heurísticas o revisión humana para medir precisión, relevancia y seguridad a lo largo del tiempo.
Gestiona y versiona prompts en Prompt Hub, y luego despliega, revierte y actualiza prompts sin publicar nuevo código de la aplicación.
Guarda y rota claves de API de OpenAI, Anthropic y otros proveedores de LLM fuera de tu código, en una bóveda cifrada.
Ofrece un catálogo masivo de modelos alojados con acceso instantáneo, pero requiere confiar en una plataforma de terceros en lugar de autoalojarse.

Gratis / Código abiertoEjecuta y crea con modelos de IA abiertos en local o en la nube
#2
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#3Ofrece conmutación por error automática de modelos y gobernanza de presupuestos a través de una pasarela API, pero con menor personalización de código abierto.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

Gratis / Código abiertoObservabilidad, evaluación y mejora continua de agentes para IA en producción
Gateway de IA, observabilidad y guardrails para apps LLM en producción

Proporciona enrutamiento de IA gestionado con múltiples proveedores y seguimiento de costos, pero carece de la flexibilidad nativa de código abierto de LiteLLM.
Gratis / Código abiertoUna alternativa de código abierto para unificar proveedores de LLM, pero cuenta con un ecosistema de integraciones de middleware menos extenso.

Gratis / Código abiertoConstruye, simula, evalúa y monitoriza agentes de IA que se mejoran solos

Gratis / Código abiertoMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.

Gratis / Código abiertoGateway de IA de código abierto con observabilidad y evaluaciones integradas
Ofrece un catálogo masivo de modelos alojados con acceso instantáneo, pero requiere confiar en una plataforma de terceros en lugar de autoalojarse.
Gratis / Código abiertoEjecuta y crea con modelos de IA abiertos en local o en la nube
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Ofrece conmutación por error automática de modelos y gobernanza de presupuestos a través de una pasarela API, pero con menor personalización de código abierto.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Gratis / Código abiertoObservabilidad, evaluación y mejora continua de agentes para IA en producción
Gratis / Código abiertoUna alternativa de código abierto para unificar proveedores de LLM, pero cuenta con un ecosistema de integraciones de middleware menos extenso.
Gratis / Código abiertoConstruye, simula, evalúa y monitoriza agentes de IA que se mejoran solos
Gratis / Código abiertoMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
Gratis / Código abiertoGateway de IA de código abierto con observabilidad y evaluaciones integradas