LiteLLM enregistre 576 967 visites mensuelles avec une croissance mensuelle de +7,9 % et un modèle tarifaire Freemium, Tarifs sur demande. OpenLIT enregistre 6 028 visites mensuelles avec une croissance de -18,3 % et un modèle tarifaire Gratuit.
Une passerelle IA open source pour plus de 100 fournisseurs de LLM
Observabilité et ingénierie de harness pour agents IA, open source et natives d'OpenTelemetry
| Dimension / Métrique | | |
|---|---|---|
| Domaine officiel | litellm.ai | openlit.io |
| Modèle tarifaire | Freemium, Tarifs sur demande | Gratuit |
| Visites mensuelles | 576,97 k (576 967) | 6,03 k (6 028) |
| Delta de trafic mensuel | +42,48 k (+7,9 %) | -1,35 k (-18,3 %) |
| Marché principal et part | 🇺🇸 États-Unis (27,9 %) | 🇺🇸 États-Unis (53,6 %) |
| Visites directes / mois | 228,97 k | 2,38 k |
| Note des utilisateurs | 4,8 | 4,7 |
| Plateformes prises en charge | Site web | Site web |
Une passerelle IA open source pour plus de 100 fournisseurs de LLM
Appelez plus de 100 fournisseurs et 1 800 modèles avec un seul format de requête et changez de modèle sans toucher au code.
Émettez des clés portant sur une équipe, un projet ou une app, fixez des plafonds mensuels et voyez qui génère l'usage et le coût.
Répartissez le trafic entre déploiements, réessayez en cas d'échec et basculez automatiquement vers un autre modèle ou fournisseur.
Tableaux de bord sur les requêtes, les tokens et le coût par modèle, avec intégration des logs et de l'analytique.
Observabilité et ingénierie de harness pour agents IA, open source et natives d'OpenTelemetry
Capturez des traces et métriques OpenTelemetry pour chaque appel LLM, appel d'outil, étape de récupération et étape d'agent, et filtrez-les par utilisateur, session, coût, latence ou métadonnées personnalisées.
Évaluez le trafic de production ou les expériences avec LLM-as-a-judge, contrôles heuristiques ou revue humaine afin de mesurer précision, pertinence et sécurité dans la durée.
Gérez et versionnez vos prompts dans le Prompt Hub, puis déployez, annulez et mettez à jour des prompts sans publier de nouveau code applicatif.
Stockez et faites tourner les clés d'API OpenAI, Anthropic et autres fournisseurs LLM hors du code, dans un coffre chiffré.
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.
Gratuit / Open sourceExécutez et développez avec des modèles d'IA ouverts, en local ou dans le cloud
Gratuit / Open sourceExécutez et développez avec des modèles d'IA ouverts, en local ou dans le cloud
SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.
Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Gratuit / Open sourceObservabilité, évaluation et amélioration continue des agents pour l'IA en production
Gratuit / Open sourceObservabilité, évaluation et amélioration continue des agents pour l'IA en production
Passerelle IA, observabilité et guardrails pour les apps LLM en production
Passerelle IA, observabilité et guardrails pour les apps LLM en production
Fournit un routage IA multi-fournisseur géré et un suivi des coûts, mais manque de la flexibilité open source native de LiteLLM.
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.
Gratuit / Open sourceConstruisez, simulez, évaluez et surveillez des agents IA qui s'améliorent seuls
Gratuit / Open sourceConstruisez, simulez, évaluez et surveillez des agents IA qui s'améliorent seuls
Gratuit / Open sourceMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
Gratuit / Open sourceMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
Gratuit / Open sourcePasserelle IA open source avec observabilité et évaluations intégrées
Gratuit / Open sourcePasserelle IA open source avec observabilité et évaluations intégrées
