# RightNow Inference（RunInfra）

依據 OpenAITools.app 於 2026-11-11 查驗的觀測資料，RightNow Inference（RunInfra）（runinfra.ai）是收錄於 AI 開發者工具的 AI 平台，每月產生 1.81萬次造訪，月流量變化量為 -5280（-22.6%）。其主要地理市場為印度（流量佔比 48.4%），並採用免費試用、付費、需聯絡報價定價模式。依每月流量計算的主要競爭替代方案包括 Groq（每月 398.79萬次造訪），Together AI（每月 164.59萬次造訪），DeepSeek（每月 3.73億次造訪）。

為代理快速提供開源模型推論，搭配熱快取路由

## 主要觀測資料與規格

| 指標 | 數值 |
| :--- | :--- |
| 工具名稱 | RightNow Inference（RunInfra） |
| 代稱 | runinfra |
| Status | active |
| Origin | independent |
| Maintenance | active |
| 官方網域 | runinfra.ai |
| 網站網址 | https://runinfra.ai |
| 分類 | AI 開發者工具, Large Language Models (LLMs), AI API, 開源 AI 模型 |
| 定價模式 | 免費試用、付費、需聯絡報價 |
| 每月造訪次數 | 18,110 |
| 月流量變化 | -5,280 |
| 月成長率 | -22.6% |
| 主要市場 | 印度 |
| 市佔率 | 48.4% |
| 直接造訪 | 7,781 |
| 自然搜尋造訪 | — |
| 社群造訪 | — |
| 推薦流量造訪 | 2,990 |
| 電子郵件造訪 | 47 |
| 評論分數 | 4.4 |
| 收藏數 | 0 |
| 支援平台 | 網站 |
| 帳務平台 |  |
| 屬性 | 價格: 免費試用; 價格: 付費; 價格: 需聯絡報價; 功能: 網站 |
| 標籤 | AI 推論最佳化, 開源模型部署, GPU 基準測試, vLLM, SGLang, TensorRT-LLM, 模型服務, 量化, CUDA 核心調校, 無伺服器 GPU |

## 總覽

運行於 runinfra.ai 的 RightNow Inference 是獲得 Y Combinator 支持的推論服務商，專注於代理工作負載的經濟性。代理往往在每一輪重複傳送相同上下文，使輸入 token 成為主要成本。RightNow Inference 以工作階段感知路由應對：同一工作階段的重複呼叫優先落在已持有相關 KV 快取的 GPU 副本上，因此快取輸入按遠低於牌價的價格計費。

該平台以相容 OpenAI 與 Anthropic SDK 的端點提供精選的開源模型庫（包括 DeepSeek、GLM、Qwen 與 Step 系列等），現有代理程式碼只需極少修改。公司公開每個模型的輸出速度、快取命中率與有效輸入價格，並公開其快取測量方法。

除計量 API 用量外，RightNow Inference 亦提供每月 10 美元起的程式編寫方案，面向 Claude Code、opencode 等工具，用量依滾動五小時與每週窗口重置，達到上限後可選擇付費額度或免費待機。該服務面向希望成本可控又不犧牲開源模型品質的團隊。

## 價格與方案

計量 API 價格依模型公開，快取輸入低至每百萬 token 約 0.01 美元，在高快取命中率下有效輸入成本常比牌價低數倍。程式編寫方案起價 10 美元/月（Starter）、29 美元/月（Pro）、99 美元/月（Team），含用量每五小時及每週重置，並可選擇按量付費額度或達上限後的免費待機。另提供免費試用與洽談式企業方案。

## 關鍵功能與能力

- **熱快取工作階段路由:** 自動讓同一代理工作階段的重複呼叫落在已持有其上下文的副本上，快取命中率可報導達約 99%，明顯降低有效輸入成本。
- **即插即用 API 相容:** 一把 API 金鑰同時適用於 OpenAI 與 Anthropic SDK，現有代理程式碼只需極少修改即可切換服務商。
- **精選開源模型庫:** 提供具公開定價的開源模型，支援工具呼叫、JSON 模式、串流輸出與影像輸入，並公布即時輸出速度與快取指標。
- **透明的快取計費:** 快取命中會顯示在用量中並依快取費率計費，同時公開測量方法與各模型的有效輸入價格。
- **程式編寫代理方案:** 為 Claude Code、opencode 等 20 多種代理提供月費方案，設有用量窗口，達上限後可免費待機。

## 主要使用情境

- **降低長工作階段代理成本 (代理開發者):** 在多輪之間保持上下文熱度，讓重複輸入依快取費率計費，對反覆傳送大提示的多步代理尤為關鍵。
- **用一把金鑰託管開源模型 (AI 平台團隊):** 使用相容 OpenAI 與 Anthropic 的端點，為現有技術堆疊加入開源模型而無需重寫 SDK 整合。
- **以月費方案運行程式編寫代理 (重視成本的創辦人):** 以可預期的月費與滾動用量窗口，為開發者提供常用代理工具的程式編寫方案存取。
- **比較吞吐量與定價 (基準分析人員):** 利用公開的輸出速度、快取命中與有效輸入資料，在同一基準下比較各服務商。

## 優勢

- 工作階段感知路由可將快取命中率推至接近 99%，大幅降低有效輸入成本
- 相容 OpenAI 與 Anthropic SDK，遷移成本低
- 公開每模型速度、快取與價格資料，便於理性比較
- 實惠的程式編寫方案，達上限後提供免費待機

## 限制

- 模型庫為精選且規模小於大型通用聚合平台
- 快取與有效價格取決於盡力而為的快取命中，效果隨工作負載而異
- 部分基準資料來自廠商自有測量方法

## 常見問題

### RightNow Inference 就是 RunInfra 嗎？
是的。runinfra.ai 網域現在以 RightNow Inference 呈現，這是獲得 Y Combinator 支持、專注於為代理提供開源模型的推論服務商。

### API 支援哪些 SDK？
該服務宣稱一把 API 金鑰即可同時適用於 OpenAI 與 Anthropic SDK，使現有代理程式碼的整合改動很小。

### 快取如何降低成本？
同一工作階段的重複呼叫會被路由到已持有上下文的副本，因此快取輸入 token 依遠低於標準輸入的價格計費。公司公開了快取測量方法，並說明命中為盡力而為。

### 程式編寫方案多少錢？
方案標價為 Starter 每月 10 美元、Pro 29 美元、Team 99 美元，含用量每五小時及每週重置，並可選繼續使用額度或免費待機檔。

### RightNow Inference（RunInfra）的每月流量與成長趨勢為何？
RightNow Inference（RunInfra）目前每月有 1.81萬次造訪，月流量變化為 -5280（成長率 -22.6%）。其主要來源市場為印度（佔比 48.4%），其中包含每月 7781 次直接造訪與每月 — 次自然搜尋造訪。

### RightNow Inference（RunInfra）是免費的嗎？其定價模式為何？
RightNow Inference（RunInfra）採用免費試用、付費、需聯絡報價定價模式。計量 API 價格依模型公開，快取輸入低至每百萬 token 約 0.01 美元，在高快取命中率下有效輸入成本常比牌價低數倍。程式編寫方案起價 10 美元/月（Starter）、29 美元/月（Pro）、99 美元/月（Team），含用量每五小時及每週重置，並可選擇按量付費額度或達上限後的免費待機。另提供免費試用與洽談式企業方案。支援的帳務與結帳平台包括：未列出。

### 2026 年最佳的 RightNow Inference（RunInfra）替代方案有哪些？
依據 OpenAITools.app 的分類流量與功能契合度，RightNow Inference（RunInfra）的前五大替代方案為：1. Groq（每月 398.79萬次造訪）; 2. Together AI（每月 164.59萬次造訪）; 3. DeepSeek（每月 3.73億次造訪）; 4. DeepInfra（每月 45.78萬次造訪）; 5. Chutes（每月 25.02萬次造訪）。

### RightNow Inference（RunInfra）支援哪些平台與核心 AI 能力？
RightNow Inference（RunInfra）分類於 AI 開發者工具, Large Language Models (LLMs), AI API, 開源 AI 模型，支援以下平台：網站，其核心能力標籤包括：AI 推論最佳化, 開源模型部署, GPU 基準測試, vLLM, SGLang, TensorRT-LLM。

## 替代方案

| 工具名稱 | 每月造訪次數 | 定價模式 | 比較 |
| :--- | :--- | :--- | :--- |
| [Groq](https://openaitools.app/tw/tool/groq) | 3,987,936 | 付費 | [比較](https://openaitools.app/tw/compare/groq-vs-runinfra) |
| [Together AI](https://openaitools.app/tw/tool/together-ai) | 1,645,930 | 免費增值、付費 | [比較](https://openaitools.app/tw/compare/runinfra-vs-together-ai) |
| [DeepSeek](https://openaitools.app/tw/tool/deepseek) | 372,761,591 | 免費增值 | [比較](https://openaitools.app/tw/compare/deepseek-vs-runinfra) |
| [DeepInfra](https://openaitools.app/tw/tool/deep-infra) | 457,810 | 付費 | [比較](https://openaitools.app/tw/compare/deep-infra-vs-runinfra) |
| [Chutes](https://openaitools.app/tw/tool/chutes) | 250,187 | 付費 | [比較](https://openaitools.app/tw/compare/chutes-vs-runinfra) |
| [OrcaRouter](https://openaitools.app/tw/tool/orcarouter) | 975,300 | 免費增值 | [比較](https://openaitools.app/tw/compare/orcarouter-vs-runinfra) |
| [Portkey](https://openaitools.app/tw/tool/portkey-ai) | 195,650 | 免費增值、付費、需聯絡報價 | [比較](https://openaitools.app/tw/compare/portkey-ai-vs-runinfra) |
| [Doubleword](https://openaitools.app/tw/tool/doubleword) | 21,405 | 付費、需聯絡報價 | [比較](https://openaitools.app/tw/compare/doubleword-vs-runinfra) |
| [Novita AI](https://openaitools.app/tw/tool/novita-ai) | 271,371 | 付費 | [比較](https://openaitools.app/tw/compare/novita-ai-vs-runinfra) |
| [Ollama](https://openaitools.app/tw/tool/ollama) | 9,421,973 | Free, Freemium, Paid | [比較](https://openaitools.app/tw/compare/ollama-vs-runinfra) |
| [Google Gemma 開源模型](https://openaitools.app/tw/tool/gemma-open-models-by-google) | 4,900,914 | 免費增值、付費 | [比較](https://openaitools.app/tw/compare/gemma-open-models-by-google-vs-runinfra) |
| [SiliconFlow](https://openaitools.app/tw/tool/siliconflow) | 276,303 | Pay-as-you-go | [比較](https://openaitools.app/tw/compare/runinfra-vs-siliconflow) |

---
來源：https://openaitools.app/tw/tool/runinfra