LiteLLM verzeichnet 576.967 monatliche Besuche mit +7,9 % Wachstum gegenüber dem Vormonat und einem Preismodell „Freemium, Preise auf Anfrage“. Rivet.dev verzeichnet 21.359 monatliche Besuche mit -44,3 % Wachstum und einem Preismodell „Freemium, Preise auf Anfrage“.
Ein Open-Source-KI-Gateway für über 100 LLM-Anbieter
Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
| Dimension / Kennzahl | | |
|---|---|---|
| Offizielle Domain | litellm.ai | rivet.dev |
| Preismodell | Freemium, Preise auf Anfrage | Freemium, Preise auf Anfrage |
| Monatliche Besuche | 576.967 (576.967) | 21.359 (21.359) |
| MoM-Traffic-Delta |
|---|
| +42.483 (+7,9 %) |
| -16.970 (-44,3 %) |
| Primärmarkt und Anteil | 🇺🇸 Vereinigte Staaten (27,9 %) | 🇺🇸 Vereinigte Staaten (39,4 %) |
|---|
| Direkte Besuche / Monat | 228.967 | 10.710 |
|---|
| Nutzerbewertung | 4,8 | 4,5 |
|---|
| Unterstützte Plattformen | Website | Website |
|---|
Ein Open-Source-KI-Gateway für über 100 LLM-Anbieter
Rufen Sie über 100 Anbieter und 1.800 Modelle in einem Anfrageformat auf und wechseln Sie Modelle ohne Codeänderungen.
Vergeben Sie bereichsbezogene Schlüssel pro Team, Projekt oder App, setzen Sie Monatslimits und sehen Sie, wer Nutzung und Kosten verursacht.
Verteilen Sie Verkehr über Deployments, wiederholen Sie Fehler und weichen Sie bei Ausfällen automatisch auf ein anderes Modell aus.
Dashboards zu Anfragen, Tokens und Kosten je Modell, mit Integrationen für Logging und Analytics.
Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
Every Actor gets a SQLite database and a filesystem, so an agent's memory and progress survive restarts and idle periods without a separate database.
Run untrusted or AI-generated code on your own infrastructure with fine-grained control over network access, filesystem permissions, and resource limits.
A node failure reschedules its Actors elsewhere with state intact, and multi-step work replays after a crash — with no checkpointing harness to build yourself.
Address an Actor directly over HTTP or hold a live WebSocket, and use the React SDK to subscribe components to an Actor's state in real time.
Bietet einen riesigen gehosteten Modellkatalog mit sofortigem Zugriff, erfordert jedoch das Vertrauen in eine Drittanbieterplattform anstelle von Self-Hosting.
SpezialisiertHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2Bietet automatisiertes Model-Failover und Budget-Governance über ein API-Gateway, allerdings mit weniger Open-Source-Anpassungsmöglichkeiten.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Kostenlos / Open SourceMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
Bietet erweiterte Enterprise-Observability- und Guardrail-Tools, vermisst jedoch die Schlichtheit des leichtgewichtigen, selbst gehosteten Proxys von LiteLLM.
Der günstige Cloud-Sandbox, in dem KI-Agenten wirklich laufen
Bietet verwaltetes Multi-Provider-KI-Routing und Kostenverfolgung, vermisst jedoch die native Open-Source-Flexibilität von LiteLLM.
Kostenlos / Open SourceEine Open-Source-Alternative zur Vereinheitlichung von LLM-Anbietern, bietet jedoch ein weniger umfangreiches Ökosystem an Middleware-Integrationen.
Selbst gehostete Cloud-Entwicklungsumgebungen und KI-Coding-Agenten für Unternehmensteams
Kostenlos / Open SourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
Persistente Ubuntu-Cloud-VMs für KI-Agenten-Fabriken
Bietet einen riesigen gehosteten Modellkatalog mit sofortigem Zugriff, erfordert jedoch das Vertrauen in eine Drittanbieterplattform anstelle von Self-Hosting.
SpezialisiertHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Bietet automatisiertes Model-Failover und Budget-Governance über ein API-Gateway, allerdings mit weniger Open-Source-Anpassungsmöglichkeiten.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Kostenlos / Open SourceMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
Bietet erweiterte Enterprise-Observability- und Guardrail-Tools, vermisst jedoch die Schlichtheit des leichtgewichtigen, selbst gehosteten Proxys von LiteLLM.
Der günstige Cloud-Sandbox, in dem KI-Agenten wirklich laufen
Kostenlos / Open SourceEine Open-Source-Alternative zur Vereinheitlichung von LLM-Anbietern, bietet jedoch ein weniger umfangreiches Ökosystem an Middleware-Integrationen.
Kostenlos / Open SourceOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
