Miễn phí / Mã nguồn mởAI suy luận mã nguồn mở và máy chủ hiệu suất cao, vận hành bằng DeepSeek-V4 và R1 với chi phí token cực thấp.

RightNow Inference (RunInfra) ghi nhận 18.110 lượt truy cập hàng tháng với mức tăng trưởng so với tháng trước là -22,6% và giá Dùng thử miễn phí, Trả phí, Liên hệ để biết giá. SiliconFlow ghi nhận 276.303 lượt truy cập hàng tháng với mức tăng trưởng -10,5% và giá Pay-as-you-go.

Suy luận mô hình mở nhanh, kèm định tuyến cache nóng cho agent
| Tiêu chí / Chỉ số | ![]() | |
|---|---|---|
| Tên miền chính thức | runinfra.ai | siliconflow.com |
| Mô hình giá | Dùng thử miễn phí, Trả phí, Liên hệ để biết giá | Pay-as-you-go |
| Lượt truy cập hàng tháng | 18,11 N (18.110) | 276,3 N (276.303) |
| Mức thay đổi lưu lượng theo tháng | -5,28 N (-22,6%) | -32,46 N (-10,5%) |
|---|
| Thị trường chính & thị phần | 🇮🇳 Ấn Độ (48,4%) | 🇺🇸 Hoa Kỳ (18,8%) |
|---|
| Truy cập trực tiếp / tháng | 7,78 N | 95,11 N |
|---|
| Đánh giá người dùng | 4,4 | 4,6 |
|---|
| Nền tảng được hỗ trợ | Trang web | Trang web |
|---|

Suy luận mô hình mở nhanh, kèm định tuyến cache nóng cho agent
Tự động giữ các lệnh gọi lặp lại của một phiên agent trên bản sao đang giữ ngữ cảnh, đạt tỷ lệ cache hit được báo cáo khoảng 99% và giảm chi phí đầu vào hiệu dụng.
Một khóa API dùng được với cả SDK OpenAI và Anthropic, nên mã agent hiện có có thể đổi nhà cung cấp với thay đổi tối thiểu.
Cung cấp mô hình trọng số mở với giá công bố, hỗ trợ gọi công cụ, chế độ JSON, streaming và đầu vào hình ảnh, kèm chỉ số tốc độ đầu ra và cache trực tiếp.
Cache hit xuất hiện trong mức dùng và được tính theo giá cache, với phương pháp đo được công bố và giá đầu vào hiệu dụng theo từng mô hình.
Một API duy nhất để suy luận LLM và mô hình đa phương thức nhanh, chi phí dễ dự đoán
Truy cập danh mục LLM và mô hình đa phương thức rộng qua một endpoint, nên phần lớn mã SDK hiện có chỉ cần đổi base URL và khóa.
Bắt đầu bằng gọi serverless trả theo dùng, rồi chuyển sang endpoint riêng, GPU đặt trước H100/H200/MI300 hoặc GPU linh hoạt (FaaS) khi nhu cầu thông lượng và chi phí tăng.
Tùy biến mô hình được hỗ trợ bằng dữ liệu riêng và đưa phiên bản đã tinh chỉnh lên endpoint lưu trữ mà không phải tự dựng pipeline huấn luyện.
Bảng giá minh bạch nêu giá đầu vào, đầu vào cache và đầu ra mỗi triệu token, kèm giá theo ảnh cho mô hình tạo sinh, giúp lập ngân sách cụ thể.
Miễn phí / Mã nguồn mởAI suy luận mã nguồn mở và máy chủ hiệu suất cao, vận hành bằng DeepSeek-V4 và R1 với chi phí token cực thấp.


Chuyên sâuNền tảng dành cho nhà phát triển và API doanh nghiệp để triển khai GPT-6 Astra, Sol, Luna và các tác tử đa phương thức thời gian thực.


Chuyên sâuCung cấp quyền truy cập trực tiếp vào các mô hình Gemini với mức miễn phí hào phóng, nhưng thiếu sự đa dạng về mô hình mã nguồn mở.

Tổng hợp nhiều lựa chọn mô hình toàn cầu hơn, nhưng thiếu cơ sở hạ tầng trọng số mở có thông lượng cao chuyên dụng của SiliconFlow.
Miễn phí / Mã nguồn mởChạy và phát triển với mô hình AI mở ngay trên máy hoặc trên cloud

Miễn phí / Mã nguồn mởDòng mô hình AI trọng số mở, gọn nhẹ của Google


Suy luận AI siêu nhanh trên nền tảng LPU và LPX

Chuyên sâuSpecializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.

Cung cấp suy luận không máy chủ mạnh mẽ cho các mô hình mở, nhưng có hệ sinh thái giá cả và công cụ phát triển khác.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.

Xuất sắc trong việc chạy các mô hình học máy tùy chỉnh và tinh chỉnh, nhưng có thể đắt hơn đối với suy luận LLM tiêu chuẩn.
Chuyên sâuUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Miễn phí / Mã nguồn mởAI suy luận mã nguồn mở và máy chủ hiệu suất cao, vận hành bằng DeepSeek-V4 và R1 với chi phí token cực thấp.
Chuyên sâuNền tảng dành cho nhà phát triển và API doanh nghiệp để triển khai GPT-6 Astra, Sol, Luna và các tác tử đa phương thức thời gian thực.
Chuyên sâuCung cấp quyền truy cập trực tiếp vào các mô hình Gemini với mức miễn phí hào phóng, nhưng thiếu sự đa dạng về mô hình mã nguồn mở.
Tổng hợp nhiều lựa chọn mô hình toàn cầu hơn, nhưng thiếu cơ sở hạ tầng trọng số mở có thông lượng cao chuyên dụng của SiliconFlow.
Miễn phí / Mã nguồn mởChạy và phát triển với mô hình AI mở ngay trên máy hoặc trên cloud
Miễn phí / Mã nguồn mởDòng mô hình AI trọng số mở, gọn nhẹ của Google
Chuyên sâuSpecializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
Cung cấp suy luận không máy chủ mạnh mẽ cho các mô hình mở, nhưng có hệ sinh thái giá cả và công cụ phát triển khác.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Xuất sắc trong việc chạy các mô hình học máy tùy chỉnh và tinh chỉnh, nhưng có thể đắt hơn đối với suy luận LLM tiêu chuẩn.
Chuyên sâuUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.