免费 / 开源由 DeepSeek-V4 与 R1 驱动的高效开源权重与托管推理 AI,token 成本极低。
RightNow Inference(RunInfra)记录了 18,110 月访问量,月度环比增长为 -22.6%,定价为免费试用,付费,定价请咨询。SiliconFlow 记录了 276,303 月访问量,增长率为 -10.5%,定价为 Pay-as-you-go。

为智能体快速提供开源模型推理,附带热缓存路由
| 维度 / 指标 | ![]() | |
|---|---|---|
| 官方域名 | runinfra.ai | siliconflow.com |
| 定价模式 | 免费试用,付费,定价请咨询 | Pay-as-you-go |
| 月访问量 | 1.81万 (18,110) | 27.63万 (276,303) |
| 月度环比流量变化 | -5280 (-22.6%) | -3.25万 (-10.5%) |
| 主要市场与份额 | 🇮🇳 印度 (48.4%) | 🇺🇸 美国 (18.8%) |
| 直接访问 / 月 | 7781 | 9.51万 |
| 用户评分 | 4.4 | 4.6 |
| 支持的平台 | 网站 | 网站 |

为智能体快速提供开源模型推理,附带热缓存路由
自动让同一智能体会话的重复调用落在已持有其上下文的副本上,缓存命中率可报道达约 99%,显著降低有效输入成本。
一个 API 密钥同时适用于 OpenAI 与 Anthropic SDK,现有智能体代码只需极少改动即可切换服务商。
提供带公开定价的开源模型,支持工具调用、JSON 模式、流式输出与图像输入,并公布实时输出速度与缓存指标。
缓存命中会显示在用量中并按缓存费率计费,同时公开测量方法与各模型的有效输入价格。
用一个 API 快速、可预测成本地运行大语言模型与多模态模型
通过单一端点访问大量大语言模型与多模态模型,多数现有 SDK 代码只需替换 base URL 与密钥即可运行。
可从按量计费的无服务器调用起步,随吞吐与成本需求增长迁移到专属端点、预留 H100/H200/MI300 GPU 或弹性 GPU(FaaS)部署。
可用自有数据微调受支持的模型,并把微调结果一键部署到托管端点,无需自建训练流水线。
透明的费率表按每百万 Token 列出输入、缓存输入与输出价格,生成模型另按张计价,便于做具体的预算规划。
免费 / 开源由 DeepSeek-V4 与 R1 驱动的高效开源权重与托管推理 AI,token 成本极低。

专项更强用于部署 GPT-6 Astra、Sol、Luna 以及实时多模态智能体的企业级开发者平台与 API。

专项更强提供对 Gemini 模型的直接访问以及丰富的免费额度,但缺乏更广泛的开源模型多样性。
免费 / 开源在本地或云端运行和构建开源 AI 模型

专项更强Specializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
专项更强Specializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
擅长执行自定义机器学习模型与微调,但标准 LLM 推理的成本可能较高。
专项更强Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
专项更强Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.