Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.

LiteLLM enregistre 576 967 visites mensuelles avec une croissance mensuelle de +7,9 % et un modèle tarifaire Freemium, Tarifs sur demande. Rivet.dev enregistre 21 359 visites mensuelles avec une croissance de -44,3 % et un modèle tarifaire Freemium, Tarifs sur demande.

Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
| Dimension / Métrique | ![]() | ![]() |
|---|---|---|
| Domaine officiel | litellm.ai | rivet.dev |
| Modèle tarifaire | Freemium, Tarifs sur demande | Freemium, Tarifs sur demande |
| Visites mensuelles | 576,97 k (576 967) | 21,36 k (21 359) |
| Delta de trafic mensuel |
|---|
| +42,48 k (+7,9 %) |
| -16,97 k (-44,3 %) |
| Marché principal et part | 🇺🇸 États-Unis (27,9 %) | 🇺🇸 États-Unis (39,4 %) |
|---|
| Visites directes / mois | 228,97 k | 10,71 k |
|---|
| Note des utilisateurs | 4,8 | 4,5 |
|---|
| Plateformes prises en charge | Site web | Site web |
|---|

Une passerelle IA open source pour plus de 100 fournisseurs de LLM
Appelez plus de 100 fournisseurs et 1 800 modèles avec un seul format de requête et changez de modèle sans toucher au code.
Émettez des clés portant sur une équipe, un projet ou une app, fixez des plafonds mensuels et voyez qui génère l'usage et le coût.
Répartissez le trafic entre déploiements, réessayez en cas d'échec et basculez automatiquement vers un autre modèle ou fournisseur.
Tableaux de bord sur les requêtes, les tokens et le coût par modèle, avec intégration des logs et de l'analytique.

Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
Every Actor gets a SQLite database and a filesystem, so an agent's memory and progress survive restarts and idle periods without a separate database.
Run untrusted or AI-generated code on your own infrastructure with fine-grained control over network access, filesystem permissions, and resource limits.
A node failure reschedules its Actors elsewhere with state intact, and multi-step work replays after a crash — with no checkpointing harness to build yourself.
Address an Actor directly over HTTP or hold a live WebSocket, and use the React SDK to subscribe components to an Actor's state in real time.
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.


SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

Gratuit / Open sourceMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.

Offre des outils avancés d'observabilité d'entreprise et de garde-fous, mais manque de la simplicité du proxy auto-hébergé léger de LiteLLM.
Le sandbox cloud économique où les agents IA tournent vraiment

Fournit un routage IA multi-fournisseur géré et un suivi des coûts, mais manque de la flexibilité open source native de LiteLLM.
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.

Environnements de développement cloud auto-hébergés et agents de code IA pour les entreprises

Gratuit / Open sourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.


Des VM Ubuntu persistantes dans le cloud pour les usines d'agents IA
Offre un catalogue massif de modèles hébergés avec un accès instantané, mais nécessite de faire confiance à une plateforme tierce plutôt qu'à l'auto-hébergement.
SpécialiséHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Fournit un basculement automatique des modèles et une gouvernance budgétaire via une passerelle API, mais avec moins de personnalisation open source.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Gratuit / Open sourceMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
Offre des outils avancés d'observabilité d'entreprise et de garde-fous, mais manque de la simplicité du proxy auto-hébergé léger de LiteLLM.
Le sandbox cloud économique où les agents IA tournent vraiment
Gratuit / Open sourceUne alternative open source pour unifier les fournisseurs de LLM, mais dotée d'un écosystème d'intégrations de middleware moins étendu.
Gratuit / Open sourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.