Cung cấp danh mục mô hình lưu trữ khổng lồ với khả năng truy cập tức thì, nhưng đòi hỏi phải tin tưởng nền tảng của bên thứ ba thay vì tự lưu trữ.

LiteLLM ghi nhận 576.967 lượt truy cập hàng tháng với mức tăng trưởng so với tháng trước là +7,9% và giá Freemium, Liên hệ để biết giá. Rivet.dev ghi nhận 21.359 lượt truy cập hàng tháng với mức tăng trưởng -44,3% và giá Freemium, Liên hệ để biết giá.

Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
| Tiêu chí / Chỉ số | ![]() | ![]() |
|---|---|---|
| Tên miền chính thức | litellm.ai | rivet.dev |
| Mô hình giá | Freemium, Liên hệ để biết giá | Freemium, Liên hệ để biết giá |
| Lượt truy cập hàng tháng | 576,97 N (576.967) | 21,36 N (21.359) |
| Mức thay đổi lưu lượng theo tháng |
|---|
| +42,48 N (+7,9%) |
| -16,97 N (-44,3%) |
| Thị trường chính & thị phần | 🇺🇸 Hoa Kỳ (27,9%) | 🇺🇸 Hoa Kỳ (39,4%) |
|---|
| Truy cập trực tiếp / tháng | 228,97 N | 10,71 N |
|---|
| Đánh giá người dùng | 4,8 | 4,5 |
|---|
| Nền tảng được hỗ trợ | Trang web | Trang web |
|---|

Cổng AI mã nguồn mở cho hơn 100 nhà cung cấp LLM
Gọi hơn 100 nhà cung cấp và 1.800 mô hình bằng một định dạng yêu cầu, đổi mô hình mà không cần sửa mã ứng dụng.
Cấp khóa giới hạn theo nhóm, dự án hoặc ứng dụng, đặt hạn mức chi tiêu hàng tháng và thấy rõ ai đang tạo ra mức dùng và chi phí.
Phân phối lưu lượng giữa các triển khai, thử lại khi lỗi và tự động chuyển sang mô hình hoặc nhà cung cấp khác khi có sự cố.
Bảng điều khiển về lượng yêu cầu, token và chi phí theo mô hình, hỗ trợ tích hợp logging và phân tích.

Rivet is open-source infrastructure for running and scaling AI agents as "Actors" — durable, stateful compute units that live inside your own Node.js or Bun backend. Each Actor keeps persistent state, a filesystem, and a SQLite database, so agents survive restarts, share state, and run code written at runtime without a redeploy. Rivet ships as a single stateless Rust binary and can be self-hosted, run in your VPC, or used through a managed cloud.
Every Actor gets a SQLite database and a filesystem, so an agent's memory and progress survive restarts and idle periods without a separate database.
Run untrusted or AI-generated code on your own infrastructure with fine-grained control over network access, filesystem permissions, and resource limits.
A node failure reschedules its Actors elsewhere with state intact, and multi-step work replays after a crash — with no checkpointing harness to build yourself.
Address an Actor directly over HTTP or hold a live WebSocket, and use the React SDK to subscribe components to an Actor's state in real time.
Cung cấp danh mục mô hình lưu trữ khổng lồ với khả năng truy cập tức thì, nhưng đòi hỏi phải tin tưởng nền tảng của bên thứ ba thay vì tự lưu trữ.


Chuyên sâuHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2Cung cấp tính năng chuyển đổi dự phòng mô hình tự động và quản trị ngân sách thông qua cổng API, nhưng ít tùy chỉnh mã nguồn mở hơn.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

Miễn phí / Mã nguồn mởMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.

Cung cấp các công cụ bảo vệ và khả năng quan sát cấp doanh nghiệp nâng cao, nhưng thiếu đi sự đơn giản của proxy tự lưu trữ gọn nhẹ từ LiteLLM.
Sandbox đám mây giá rẻ để AI agent thực sự vận hành

Cung cấp tính năng định tuyến AI đa nhà cung cấp được quản lý và theo dõi chi phí, nhưng thiếu đi tính linh hoạt mã nguồn mở gốc của LiteLLM.
Miễn phí / Mã nguồn mởMột giải pháp thay thế mã nguồn mở để thống nhất các nhà cung cấp LLM, nhưng có hệ sinh thái tích hợp phần mềm trung gian ít phong phú hơn.

Môi trường phát triển đám mây tự lưu trữ và tác nhân lập trình AI cho doanh nghiệp

Miễn phí / Mã nguồn mởOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.

VM Ubuntu đám mây lâu dài dành cho nhà máy tác nhân AI
Cung cấp danh mục mô hình lưu trữ khổng lồ với khả năng truy cập tức thì, nhưng đòi hỏi phải tin tưởng nền tảng của bên thứ ba thay vì tự lưu trữ.
Chuyên sâuHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Cung cấp tính năng chuyển đổi dự phòng mô hình tự động và quản trị ngân sách thông qua cổng API, nhưng ít tùy chỉnh mã nguồn mở hơn.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Miễn phí / Mã nguồn mởMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
Cung cấp các công cụ bảo vệ và khả năng quan sát cấp doanh nghiệp nâng cao, nhưng thiếu đi sự đơn giản của proxy tự lưu trữ gọn nhẹ từ LiteLLM.
Sandbox đám mây giá rẻ để AI agent thực sự vận hành
Miễn phí / Mã nguồn mởMột giải pháp thay thế mã nguồn mở để thống nhất các nhà cung cấp LLM, nhưng có hệ sinh thái tích hợp phần mềm trung gian ít phong phú hơn.
Miễn phí / Mã nguồn mởOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.