LiteLLM enregistre 576 967 visites mensuelles avec une croissance mensuelle de +7,9 % et un modèle tarifaire Freemium, Tarifs sur demande. Promptr enregistre 0 visites mensuelles avec une croissance de 0 % et un modèle tarifaire Pay-as-you-go.
Une passerelle IA open source pour plus de 100 fournisseurs de LLM
Compressez les prompts de LLM en un appel REST et réduisez le coût en tokens
| Dimension / Métrique | | |
|---|---|---|
| Domaine officiel | litellm.ai | promptr.dev |
| Modèle tarifaire | Freemium, Tarifs sur demande | Pay-as-you-go |
| Visites mensuelles | 576,97 k (576 967) | 0 (0) |
| Delta de trafic mensuel |
| +42,48 k (+7,9 %) |
| 0 (0 %) |
| Marché principal et part | 🇺🇸 États-Unis (27,9 %) | 🌐 Global (—) |
|---|
| Visites directes / mois | 228,97 k | 0 |
|---|
| Note des utilisateurs | 4,8 | 3,6 |
|---|
| Plateformes prises en charge | Site web | Site web |
|---|
Une passerelle IA open source pour plus de 100 fournisseurs de LLM
Appelez plus de 100 fournisseurs et 1 800 modèles avec un seul format de requête et changez de modèle sans toucher au code.
Émettez des clés portant sur une équipe, un projet ou une app, fixez des plafonds mensuels et voyez qui génère l'usage et le coût.
Répartissez le trafic entre déploiements, réessayez en cas d'échec et basculez automatiquement vers un autre modèle ou fournisseur.
Tableaux de bord sur les requêtes, les tokens et le coût par modèle, avec intégration des logs et de l'analytique.
Compressez les prompts de LLM en un appel REST et réduisez le coût en tokens
Envoyez votre prompt à un point de terminaison REST unique et recevez une version plus courte en texte brut, prête pour le modèle.
Le fournisseur annonce jusqu'à 40 % de coût d'entrée en moins, avec un exemple montrant une réduction de 45 % sur un prompt type.
Des exemples prêts à copier sont fournis pour curl, Python, JavaScript et C#, pour une intégration en minutes plutôt qu'en jours.
Encadrez des sections de balises pour les exclure de la compression ou fixer un ratio précis pour ce bloc.
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.
SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.
Gratuit / Open sourceUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Offre des outils avancés d'observabilité d'entreprise et de garde-fous, mais manque de la simplicité du proxy auto-hébergé léger de LiteLLM.
Fournit un routage IA multi-fournisseur géré et un suivi des coûts, mais manque de la flexibilité open source native de LiteLLM.
Gratuit / Open sourceRéduisez le coût en tokens de vos agents IA grâce à la compression récupérable et au routage intelligent des modèles
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.
Gratuit / Open sourceHoncho is an open-source memory layer for AI agents. It ingests messages, indexes them, and runs background reasoning so agents can recall who a user is, what happened before, and what to do next — across sessions, tools, and machines.
Gratuit / Open sourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
SpécialiséExelle dans la mise en cache des requêtes, la surveillance et l'analyse des coûts, mais fonctionne principalement comme un moniteur de proxy plutôt que comme un routeur.
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.
SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.
Gratuit / Open sourceUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Offre des outils avancés d'observabilité d'entreprise et de garde-fous, mais manque de la simplicité du proxy auto-hébergé léger de LiteLLM.
Gratuit / Open sourceRéduisez le coût en tokens de vos agents IA grâce à la compression récupérable et au routage intelligent des modèles
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.
Gratuit / Open sourceHoncho is an open-source memory layer for AI agents. It ingests messages, indexes them, and runs background reasoning so agents can recall who a user is, what happened before, and what to do next — across sessions, tools, and machines.
Gratuit / Open sourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
SpécialiséExelle dans la mise en cache des requêtes, la surveillance et l'analyse des coûts, mais fonctionne principalement comme un moniteur de proxy plutôt que comme un routeur.
