# RightNow Inference（RunInfra）

根据 OpenAITools.app 于 2026-11-11 核对的流量数据，RightNow Inference（RunInfra）（runinfra.ai）是一个收录在 AI Developer Tools 下的 AI 平台，月访问量为 1.81万，月度环比流量变化为 -5280（-22.6%）。其主要地理市场为印度（48.4% 流量份额），采用免费试用，付费，定价请咨询定价模式。按月流量计算的主要竞争替代方案包括 Groq（398.79万次访问/月），Together AI（164.59万次访问/月），DeepSeek（3.73亿次访问/月）。

为智能体快速提供开源模型推理，附带热缓存路由

## 关键遥测与规格

| 指标 | 数值 |
| :--- | :--- |
| 工具名称 | RightNow Inference（RunInfra） |
| 标识 | runinfra |
| Status | active |
| Origin | independent |
| Maintenance | active |
| 官方域名 | runinfra.ai |
| 官网地址 | https://runinfra.ai |
| 分类 | AI Developer Tools, Large Language Models (LLMs), AI API, Open Source AI Models |
| 定价模式 | 免费试用，付费，定价请咨询 |
| 月访问量 | 18,110 |
| 月度环比流量变化 | -5,280 |
| 月度环比增长率 | -22.6% |
| 主要市场 | 印度 |
| 市场份额 | 48.4% |
| 直接访问量 | 7,781 |
| 自然搜索访问 | — |
| 社交访问 | — |
| 推荐访问 | 2,990 |
| 邮件访问 | 47 |
| 评价得分 | 4.4 |
| 收藏数 | 0 |
| 支持平台 | 网站 |
| 计费平台 |  |
| 属性 | 定价: 免费试用; 定价: 付费; 定价: 定价请咨询; 功能: 网站 |
| 标签 | AI 推理优化, 开源模型部署, GPU 基准测试, vLLM, SGLang, TensorRT-LLM, 模型服务, 量化, CUDA 内核调优, 无服务器 GPU |

## 概览

运行于 runinfra.ai 的 RightNow Inference 是获得 Y Combinator 支持的推理服务商，专注于智能体工作负载的经济性。智能体往往在每一轮重复发送相同上下文，使输入 token 成为主要成本。RightNow Inference 通过会话感知路由应对：同一会话的重复调用优先落在已持有相关 KV 缓存的 GPU 副本上，因此缓存输入按远低于列表价的价格计费。

该平台以兼容 OpenAI 与 Anthropic SDK 的端点提供精选的开源模型库（包括 DeepSeek、GLM、Qwen 与 Step 系列等），现有智能体代码只需极少改动。公司公开每个模型的输出速度、缓存命中率与有效输入价格，并公开其缓存测量方法。

除计量 API 用量外，RightNow Inference 还提供每月 10 美元起的编程套餐，面向 Claude Code、opencode 等工具，用量按滚动五小时和每周窗口重置，达到上限后可选择付费额度或免费待机。该服务面向希望可控成本又不牺牲开源模型质量的团队。

## 定价与套餐

计量 API 价格按模型公开，缓存输入低至每百万 token 约 0.01 美元，在高缓存命中率下有效输入成本常比列表价低数倍。编程套餐起价 10 美元/月（Starter）、29 美元/月（Pro）、99 美元/月（Team），含用量每五小时及每周重置，并可选择按量付费额度或达到上限后的免费待机。另提供免费试用与按需洽谈的企业方案。

## 关键功能与能力

- **热缓存会话路由:** 自动让同一智能体会话的重复调用落在已持有其上下文的副本上，缓存命中率可报道达约 99%，显著降低有效输入成本。
- **即插即用 API 兼容:** 一个 API 密钥同时适用于 OpenAI 与 Anthropic SDK，现有智能体代码只需极少改动即可切换服务商。
- **精选开源模型库:** 提供带公开定价的开源模型，支持工具调用、JSON 模式、流式输出与图像输入，并公布实时输出速度与缓存指标。
- **透明的缓存计费:** 缓存命中会显示在用量中并按缓存费率计费，同时公开测量方法与各模型的有效输入价格。
- **编程智能体套餐:** 为 Claude Code、opencode 等 20 多种智能体提供包月套餐，设有用量窗口，达到上限后可免费待机。

## 主要用例

- **降低长会话智能体成本 (智能体开发者):** 在多轮之间保持上下文热度，让重复输入按缓存费率计费，对反复发送大提示词的多步智能体尤为关键。
- **用一个密钥托管开源模型 (AI 平台团队):** 使用兼容 OpenAI 与 Anthropic 的端点，为现有技术栈加入开源模型而无需重写 SDK 集成。
- **用包月套餐运行编程智能体 (注重成本的创始人):** 以可预测的月费和滚动用量窗口，为开发者提供常用智能体工具的编程套餐访问。
- **对比吞吐与定价 (基准分析人员):** 利用公开的输出速度、缓存命中与有效输入数据，在同一口径下比较各服务商。

## 优势

- 会话感知路由可将缓存命中率推至接近 99%，大幅降低有效输入成本
- 兼容 OpenAI 与 Anthropic SDK，迁移成本低
- 公开每模型速度、缓存与价格数据，便于理性对比
- 实惠的编程套餐，达到上限后提供免费待机

## 局限

- 模型库为精选且规模小于大型通用聚合平台
- 缓存与有效价格取决于尽力而为的缓存命中，效果随工作负载而异
- 部分基准数据来自厂商自有测量方法

## 常见问题

### RightNow Inference 就是 RunInfra 吗？
是的。runinfra.ai 域名现在以 RightNow Inference 呈现，这是一家获得 Y Combinator 支持、专注于为智能体提供开源模型的推理服务商。

### API 支持哪些 SDK？
该服务宣称一个 API 密钥即可同时适用于 OpenAI 与 Anthropic SDK，使现有智能体代码的集成改动很小。

### 缓存如何降低成本？
同一会话的重复调用会被路由到已持有上下文的副本，因此缓存输入 token 按远低于标准输入的价格计费。公司公开了缓存测量方法，并说明命中为尽力而为。

### 编程套餐多少钱？
套餐标价为 Starter 每月 10 美元、Pro 29 美元、Team 99 美元，含用量每五小时及每周重置，并可选继续使用额度或免费待机档。

### RightNow Inference（RunInfra）的月流量和增长趋势如何？
RightNow Inference（RunInfra）目前每月获得 1.81万访问量，月度环比流量变化为 -5280（增长率 -22.6%）。其主要来源市场是印度（48.4% 份额），包括每月 7781 次直接访问和每月 — 次自然搜索访问。

### RightNow Inference（RunInfra）免费吗？它的定价模式是什么？
RightNow Inference（RunInfra）采用免费试用，付费，定价请咨询定价模式。计量 API 价格按模型公开，缓存输入低至每百万 token 约 0.01 美元，在高缓存命中率下有效输入成本常比列表价低数倍。编程套餐起价 10 美元/月（Starter）、29 美元/月（Pro）、99 美元/月（Team），含用量每五小时及每周重置，并可选择按量付费额度或达到上限后的免费待机。另提供免费试用与按需洽谈的企业方案。支持的计费和结账平台包括：未列出。

### 2026 年 RightNow Inference（RunInfra）的最佳替代方案有哪些？
基于 OpenAITools.app 的分类流量和功能契合度，RightNow Inference（RunInfra）的前五个替代方案是：1. Groq（398.79万次访问/月）; 2. Together AI（164.59万次访问/月）; 3. DeepSeek（3.73亿次访问/月）; 4. DeepInfra（45.78万次访问/月）; 5. Chutes（25.02万次访问/月）。

### RightNow Inference（RunInfra）支持哪些平台和核心 AI 能力？
RightNow Inference（RunInfra）被归类在 AI Developer Tools, Large Language Models (LLMs), AI API, Open Source AI Models 下，支持以下平台：网站，其核心能力标签包括：AI 推理优化, 开源模型部署, GPU 基准测试, vLLM, SGLang, TensorRT-LLM。

## 替代工具

| 工具名称 | 月访问量 | 定价模式 | 对比 |
| :--- | :--- | :--- | :--- |
| [Groq](https://openaitools.app/zh/tool/groq) | 3,987,936 | 付费 | [对比](https://openaitools.app/zh/compare/groq-vs-runinfra) |
| [Together AI](https://openaitools.app/zh/tool/together-ai) | 1,645,930 | 免费增值，付费 | [对比](https://openaitools.app/zh/compare/runinfra-vs-together-ai) |
| [DeepSeek](https://openaitools.app/zh/tool/deepseek) | 372,761,591 | 免费增值 | [对比](https://openaitools.app/zh/compare/deepseek-vs-runinfra) |
| [DeepInfra](https://openaitools.app/zh/tool/deep-infra) | 457,810 | 付费 | [对比](https://openaitools.app/zh/compare/deep-infra-vs-runinfra) |
| [Chutes](https://openaitools.app/zh/tool/chutes) | 250,187 | 付费 | [对比](https://openaitools.app/zh/compare/chutes-vs-runinfra) |
| [OrcaRouter](https://openaitools.app/zh/tool/orcarouter) | 975,300 | 免费增值 | [对比](https://openaitools.app/zh/compare/orcarouter-vs-runinfra) |
| [Portkey](https://openaitools.app/zh/tool/portkey-ai) | 195,650 | 免费增值，付费，定价请咨询 | [对比](https://openaitools.app/zh/compare/portkey-ai-vs-runinfra) |
| [Doubleword](https://openaitools.app/zh/tool/doubleword) | 21,405 | 付费，定价请咨询 | [对比](https://openaitools.app/zh/compare/doubleword-vs-runinfra) |
| [Novita AI](https://openaitools.app/zh/tool/novita-ai) | 271,371 | 付费 | [对比](https://openaitools.app/zh/compare/novita-ai-vs-runinfra) |
| [Ollama](https://openaitools.app/zh/tool/ollama) | 9,421,973 | Free, Freemium, Paid | [对比](https://openaitools.app/zh/compare/ollama-vs-runinfra) |
| [Google Gemma 开源模型](https://openaitools.app/zh/tool/gemma-open-models-by-google) | 4,900,914 | 免费增值，付费 | [对比](https://openaitools.app/zh/compare/gemma-open-models-by-google-vs-runinfra) |
| [SiliconFlow](https://openaitools.app/zh/tool/siliconflow) | 276,303 | Pay-as-you-go | [对比](https://openaitools.app/zh/compare/runinfra-vs-siliconflow) |

---
来源：https://openaitools.app/zh/tool/runinfra