# RightNow Inference (RunInfra)

Theo dữ liệu đo lường của OpenAITools.app được xác minh vào 2026-11-11, RightNow Inference (RunInfra) (runinfra.ai) là nền tảng AI được lập chỉ mục trong Công cụ cho lập trình viên AI, tạo ra 18,11 N lượt truy cập hàng tháng với mức thay đổi lưu lượng so với tháng trước là -5,28 N (-22,6%). Thị trường địa lý chính của nền tảng này là Ấn Độ (thị phần lưu lượng 48,4%), và nền tảng hoạt động theo mô hình giá Dùng thử miễn phí, Trả phí, Liên hệ để biết giá. Các lựa chọn thay thế cạnh tranh hàng đầu theo lưu lượng hàng tháng bao gồm Groq (3,99 Tr lượt truy cập/tháng), Together AI (1,65 Tr lượt truy cập/tháng), DeepSeek (372,76 Tr lượt truy cập/tháng).

Suy luận mô hình mở nhanh, kèm định tuyến cache nóng cho agent

## Dữ liệu đo lường & thông số kỹ thuật chính

| Chỉ số | Giá trị |
| :--- | :--- |
| Tên công cụ | RightNow Inference (RunInfra) |
| Tên định danh | runinfra |
| Status | active |
| Origin | independent |
| Maintenance | active |
| Tên miền chính thức | runinfra.ai |
| URL trang web | https://runinfra.ai |
| Danh mục | Công cụ cho lập trình viên AI, Large Language Models (LLMs), AI API, Mô hình AI mã nguồn mở |
| Mô hình giá | Dùng thử miễn phí, Trả phí, Liên hệ để biết giá |
| Lượt truy cập hàng tháng | 18.110 |
| Thay đổi lưu lượng theo tháng | -5.280 |
| Tốc độ tăng trưởng theo tháng | -22,6% |
| Thị trường chính | Ấn Độ |
| Thị phần | 48,4% |
| Truy cập trực tiếp | 7.781 |
| Truy cập từ tìm kiếm tự nhiên | — |
| Truy cập từ mạng xã hội | — |
| Truy cập từ giới thiệu | 2.990 |
| Truy cập từ email | 47 |
| Điểm đánh giá | 4,4 |
| Số lượt lưu | 0 |
| Nền tảng được hỗ trợ | Trang web |
| Nền tảng thanh toán |  |
| Thuộc tính | Giá cả: Dùng thử miễn phí; Giá cả: Trả phí; Giá cả: Liên hệ để biết giá; Tính năng: Trang web |
| Thẻ | Tối ưu hóa suy luận AI, Triển khai mô hình mã nguồn mở, Đánh giá hiệu năng GPU, vLLM, SGLang, TensorRT-LLM, Phục vụ mô hình, lượng tử hóa, Tinh chỉnh kernel CUDA, GPU không máy chủ |

## Tổng quan

RightNow Inference, vận hành tại runinfra.ai, là nhà cung cấp suy luận được Y Combinator hậu thuẫn, tập trung vào tính kinh tế của khối lượng công việc dạng agent. Agent thường gửi lại cùng ngữ cảnh ở mỗi lượt, khiến token đầu vào trở thành chi phí chủ đạo. RightNow Inference giải quyết bằng định tuyến nhận biết phiên: các lệnh gọi lặp lại trong cùng phiên ưu tiên bản sao GPU đã giữ KV cache liên quan, nên đầu vào cache được tính ở mức chỉ bằng một phần nhỏ giá niêm yết.

Nền tảng phục vụ thư viện mô hình mở được tuyển chọn — gồm các mô hình thuộc dòng DeepSeek, GLM, Qwen và Step — qua các endpoint tương thích SDK OpenAI và Anthropic, nên mã agent hiện có chỉ cần thay đổi tối thiểu. Công ty công bố tốc độ đầu ra, tỷ lệ cache hit và giá đầu vào hiệu dụng theo từng mô hình, đồng thời công khai phương pháp đo cache.

Ngoài API tính theo mức dùng, RightNow Inference cung cấp gói lập trình từ 10 USD/tháng cho các công cụ như Claude Code và opencode, với mức dùng được làm mới theo cửa sổ trượt năm giờ và hàng tuần, cùng lựa chọn tạm dừng miễn phí khi đạt giới hạn. Dịch vụ hướng đến các đội muốn kiểm soát chi phí mà không từ bỏ chất lượng mô hình mở.

## Giá & các gói

Giá API tính theo mức dùng được công bố theo từng mô hình, với giá đầu vào cache từ khoảng 0,01 USD mỗi triệu token và chi phí đầu vào hiệu dụng thường thấp hơn nhiều lần giá niêm yết nhờ tỷ lệ cache hit cao. Gói lập trình bắt đầu từ 10 USD/tháng (Starter), 29 USD/tháng (Pro) và 99 USD/tháng (Team), với mức dùng đi kèm được làm mới mỗi năm giờ và hàng tuần, cùng credit trả theo mức dùng hoặc mức tạm dừng miễn phí khi đạt giới hạn. Cũng có bản dùng thử miễn phí và thỏa thuận doanh nghiệp theo liên hệ.

## Tính năng & năng lực chính

- **Định tuyến phiên với cache nóng:** Tự động giữ các lệnh gọi lặp lại của một phiên agent trên bản sao đang giữ ngữ cảnh, đạt tỷ lệ cache hit được báo cáo khoảng 99% và giảm chi phí đầu vào hiệu dụng.
- **Tương thích API cắm là chạy:** Một khóa API dùng được với cả SDK OpenAI và Anthropic, nên mã agent hiện có có thể đổi nhà cung cấp với thay đổi tối thiểu.
- **Thư viện mô hình mở tuyển chọn:** Cung cấp mô hình trọng số mở với giá công bố, hỗ trợ gọi công cụ, chế độ JSON, streaming và đầu vào hình ảnh, kèm chỉ số tốc độ đầu ra và cache trực tiếp.
- **Tính phí cache minh bạch:** Cache hit xuất hiện trong mức dùng và được tính theo giá cache, với phương pháp đo được công bố và giá đầu vào hiệu dụng theo từng mô hình.
- **Gói cho agent viết mã:** Gói trọn tháng cho Claude Code, opencode và hơn 20 agent khác, với cửa sổ sử dụng và lựa chọn tạm dừng miễn phí khi đạt giới hạn.

## Trường hợp sử dụng chính

- **Giảm chi phí phiên agent dài (Nhà phát triển agent):** Giữ ngữ cảnh nóng giữa các lượt để đầu vào lặp lại được tính theo giá cache, điều này quan trọng với agent nhiều bước gửi lại prompt lớn.
- **Phục vụ mô hình mở bằng một khóa (Đội nền tảng AI):** Dùng endpoint tương thích OpenAI và Anthropic để thêm mô hình trọng số mở vào hệ thống hiện có mà không phải viết lại tích hợp SDK.
- **Chạy agent viết mã bằng gói trọn tháng (Nhà sáng lập chú trọng chi phí):** Cho lập trình viên truy cập các công cụ agent phổ biến với giá tháng dự đoán được và cửa sổ sử dụng trượt.
- **So sánh thông lượng và giá (Chuyên viên phân tích benchmark):** Dùng số liệu công bố về tốc độ đầu ra, cache hit và đầu vào hiệu dụng để so sánh nhà cung cấp trên cùng một cơ sở.

## Điểm mạnh

- Định tuyến nhận biết phiên có thể đưa cache hit lên gần 99%, giảm mạnh chi phí đầu vào hiệu dụng
- Tương thích SDK OpenAI và Anthropic giúp chi phí chuyển đổi thấp
- Công bố dữ liệu tốc độ, cache và giá theo từng mô hình giúp so sánh có căn cứ
- Gói lập trình phải chăng với lựa chọn tạm dừng miễn phí khi đạt giới hạn

## Hạn chế

- Thư viện mô hình được tuyển chọn và nhỏ hơn các nền tảng tổng hợp đa dụng lớn
- Giá cache và giá hiệu dụng phụ thuộc vào cache hit theo kiểu nỗ lực tối đa nên thay đổi theo khối lượng công việc
- Một số số liệu benchmark đến từ phương pháp đo của chính nhà cung cấp

## Câu hỏi thường gặp

### RightNow Inference có phải là RunInfra không?
Đúng. Tên miền runinfra.ai nay hoạt động với thương hiệu RightNow Inference, nhà cung cấp suy luận được Y Combinator hậu thuẫn, tập trung phục vụ mô hình mở cho agent.

### API hỗ trợ những SDK nào?
Dịch vụ quảng bá một khóa API dùng được với cả SDK OpenAI và Anthropic, giúp thay đổi tích hợp trong mã agent hiện có ở mức tối thiểu.

### Cache giúp giảm chi phí như thế nào?
Các lệnh gọi lặp lại trong cùng phiên được định tuyến đến bản sao đang giữ ngữ cảnh, nên token đầu vào cache được tính rẻ hơn nhiều so với đầu vào chuẩn. Công ty công bố phương pháp đo và lưu ý rằng cache hit là nỗ lực tối đa.

### Gói lập trình giá bao nhiêu?
Gói được niêm yết 10 USD/tháng cho Starter, 29 USD cho Pro và 99 USD cho Team, mức dùng đi kèm được làm mới mỗi năm giờ và hàng tuần, với lựa chọn tiếp tục bằng credit hoặc mức tạm dừng miễn phí.

### Lưu lượng hàng tháng và xu hướng tăng trưởng của RightNow Inference (RunInfra) là gì?
Hiện RightNow Inference (RunInfra) nhận được 18,11 N lượt truy cập hàng tháng, với mức thay đổi lưu lượng so với tháng trước là -5,28 N (tốc độ tăng trưởng -22,6%). Thị trường nguồn chính của nó là Ấn Độ (thị phần 48,4%), bao gồm 7,78 N lượt truy cập trực tiếp/tháng và — lượt truy cập từ tìm kiếm tự nhiên/tháng.

### RightNow Inference (RunInfra) có miễn phí không? Mô hình giá của nó là gì?
RightNow Inference (RunInfra) hoạt động theo mô hình giá Dùng thử miễn phí, Trả phí, Liên hệ để biết giá. Giá API tính theo mức dùng được công bố theo từng mô hình, với giá đầu vào cache từ khoảng 0,01 USD mỗi triệu token và chi phí đầu vào hiệu dụng thường thấp hơn nhiều lần giá niêm yết nhờ tỷ lệ cache hit cao. Gói lập trình bắt đầu từ 10 USD/tháng (Starter), 29 USD/tháng (Pro) và 99 USD/tháng (Team), với mức dùng đi kèm được làm mới mỗi năm giờ và hàng tuần, cùng credit trả theo mức dùng hoặc mức tạm dừng miễn phí khi đạt giới hạn. Cũng có bản dùng thử miễn phí và thỏa thuận doanh nghiệp theo liên hệ. Các nền tảng thanh toán và đặt hàng được hỗ trợ bao gồm: chưa được liệt kê.

### Những lựa chọn thay thế tốt nhất cho RightNow Inference (RunInfra) trong năm 2026 là gì?
Dựa trên lưu lượng theo danh mục và mức độ phù hợp tính năng của OpenAITools.app, năm lựa chọn thay thế hàng đầu cho RightNow Inference (RunInfra) là: 1. Groq (3,99 Tr lượt truy cập/tháng); 2. Together AI (1,65 Tr lượt truy cập/tháng); 3. DeepSeek (372,76 Tr lượt truy cập/tháng); 4. DeepInfra (457,81 N lượt truy cập/tháng); 5. Chutes (250,19 N lượt truy cập/tháng).

### RightNow Inference (RunInfra) hỗ trợ những nền tảng và năng lực AI cốt lõi nào?
RightNow Inference (RunInfra) được phân loại trong Công cụ cho lập trình viên AI, Large Language Models (LLMs), AI API, Mô hình AI mã nguồn mở, hỗ trợ các nền tảng sau: Trang web, và các thẻ năng lực cốt lõi của nó bao gồm: Tối ưu hóa suy luận AI, Triển khai mô hình mã nguồn mở, Đánh giá hiệu năng GPU, vLLM, SGLang, TensorRT-LLM.

## Lựa chọn thay thế

| Tên công cụ | Lượt truy cập hàng tháng | Mô hình giá | So sánh |
| :--- | :--- | :--- | :--- |
| [Groq](https://openaitools.app/vi/tool/groq) | 3.987.936 | Trả phí | [So sánh](https://openaitools.app/vi/compare/groq-vs-runinfra) |
| [Together AI](https://openaitools.app/vi/tool/together-ai) | 1.645.930 | Freemium, Trả phí | [So sánh](https://openaitools.app/vi/compare/runinfra-vs-together-ai) |
| [DeepSeek](https://openaitools.app/vi/tool/deepseek) | 372.761.591 | Freemium | [So sánh](https://openaitools.app/vi/compare/deepseek-vs-runinfra) |
| [DeepInfra](https://openaitools.app/vi/tool/deep-infra) | 457.810 | Trả phí | [So sánh](https://openaitools.app/vi/compare/deep-infra-vs-runinfra) |
| [Chutes](https://openaitools.app/vi/tool/chutes) | 250.187 | Trả phí | [So sánh](https://openaitools.app/vi/compare/chutes-vs-runinfra) |
| [OrcaRouter](https://openaitools.app/vi/tool/orcarouter) | 975.300 | Freemium | [So sánh](https://openaitools.app/vi/compare/orcarouter-vs-runinfra) |
| [Portkey](https://openaitools.app/vi/tool/portkey-ai) | 195.650 | Freemium, Trả phí, Liên hệ để biết giá | [So sánh](https://openaitools.app/vi/compare/portkey-ai-vs-runinfra) |
| [Doubleword](https://openaitools.app/vi/tool/doubleword) | 21.405 | Trả phí, Liên hệ để biết giá | [So sánh](https://openaitools.app/vi/compare/doubleword-vs-runinfra) |
| [Novita AI](https://openaitools.app/vi/tool/novita-ai) | 271.371 | Trả phí | [So sánh](https://openaitools.app/vi/compare/novita-ai-vs-runinfra) |
| [Ollama](https://openaitools.app/vi/tool/ollama) | 9.421.973 | Free, Freemium, Paid | [So sánh](https://openaitools.app/vi/compare/ollama-vs-runinfra) |
| [Gemma - Mô hình mở của Google](https://openaitools.app/vi/tool/gemma-open-models-by-google) | 4.900.914 | Freemium, Trả phí | [So sánh](https://openaitools.app/vi/compare/gemma-open-models-by-google-vs-runinfra) |
| [SiliconFlow](https://openaitools.app/vi/tool/siliconflow) | 276.303 | Pay-as-you-go | [So sánh](https://openaitools.app/vi/compare/runinfra-vs-siliconflow) |

---
Nguồn: https://openaitools.app/vi/tool/runinfra