RightNow Inference（RunInfra）每月有 18,110 次造訪，月增率 -22.6%，定價模式為免費試用、付費、需聯絡報價。SiliconFlow 每月有 276,303 次造訪，成長率 -10.5%，定價模式為 Pay-as-you-go。
為代理快速提供開源模型推論，搭配熱快取路由
用一個 API 快速、可預測成本地執行 LLM 與多模態模型
| 面向／指標 | | |
|---|---|---|
| 官方網域 | runinfra.ai | siliconflow.com |
| 定價模式 | 免費試用、付費、需聯絡報價 | Pay-as-you-go |
| 每月造訪次數 | 1.81萬 (18,110) | 27.63萬 (276,303) |
| 月流量變化量 | -5280 (-22.6%) | -3.25萬 (-10.5%) |
| 主要市場與市佔 | 🇮🇳 印度 (48.4%) | 🇺🇸 美國 (18.8%) |
| 每月直接造訪 | 7781 | 9.51萬 |
| 使用者評分 | 4.4 | 4.6 |
| 支援平台 | 網站 | 網站 |
為代理快速提供開源模型推論，搭配熱快取路由
自動讓同一代理工作階段的重複呼叫落在已持有其上下文的副本上，快取命中率可報導達約 99%，明顯降低有效輸入成本。
一把 API 金鑰同時適用於 OpenAI 與 Anthropic SDK，現有代理程式碼只需極少修改即可切換服務商。
提供具公開定價的開源模型，支援工具呼叫、JSON 模式、串流輸出與影像輸入，並公布即時輸出速度與快取指標。
快取命中會顯示在用量中並依快取費率計費，同時公開測量方法與各模型的有效輸入價格。
用一個 API 快速、可預測成本地執行 LLM 與多模態模型
透過單一端點存取大量 LLM 與多模態模型，多數現有 SDK 程式碼只需替換 base URL 與金鑰即可運行。
可從按量計費的無伺服器呼叫起步，隨吞吐與成本需求成長遷移到專屬端點、預留 H100/H200/MI300 GPU 或彈性 GPU（FaaS）部署。
可用自有資料微調受支援的模型，並把微調結果一鍵部署到託管端點，無需自建訓練流程。
透明的費率表按每百萬 Token 列出輸入、快取輸入與輸出價格，生成模型另按張計價，便於做具體的預算規劃。
免費 / 開源由 DeepSeek-V4 與 R1 驅動的高效開源權重與託管推理 AI，token 成本極低。
免費 / 開源在本機或雲端執行與打造開源 AI 模型
專項更強Specializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
擅長執行自訂機器學習模型與微調，但標準 LLM 推論的成本可能較高。
專項更強Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
專項更強Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
