無料・オープンソースDeepSeek-V4 と R1 を中核とし、極めて低いトークンコストで提供される高効率なオープンウェイト/ホスト型推論 AI。
OrcaRouter は月間 975,300 訪問、前月比成長率 -5.2%、料金体系フリーミアムを記録しています。RightNow Inference(RunInfra)は月間 18,110 訪問、成長率 -22.6%、料金体系無料トライアル、有料、料金は要問い合わせを記録しています。

エージェント向けに高速提供するオープンモデル推論とウォームキャッシュルーティング
| 項目 / 指標 | ![]() | |
|---|---|---|
| 公式ドメイン | orcarouter.ai | runinfra.ai |
| 料金モデル | フリーミアム | 無料トライアル、有料、料金は要問い合わせ |
| 月間訪問数 | 97.53万 (975,300) | 1.81万 (18,110) |
| 前月比トラフィック増減 | -5.38万 (-5.2%) | -5280 (-22.6%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (21.5%) | 🇮🇳 インド (48.4%) |
| 月間ダイレクト訪問数 | 24.97万 | 7781 |
| ユーザー評価 | 4.3 | 4.4 |
| 対応プラットフォーム | ウェブサイト | ウェブサイト |
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Each prompt is graded and routed to the model that clears your quality bar, with configurable fallback chains that retry before a response starts.
Pay provider prices with $0 per-token added on pay-as-you-go and subscriptions, or bring your own provider keys and credits.
PII shielding, jailbreak and injection blocking, and per-call approval for tool and MCP actions run before you are billed.
Request logs, per-prompt receipts, routing and spend dashboards, and copy-as-cURL make every call auditable and attributable.

エージェント向けに高速提供するオープンモデル推論とウォームキャッシュルーティング
同一エージェントセッションの繰り返し呼び出しを、コンテキストを保持するレプリカへ自動的に維持し、報告ベースで約 99% のキャッシュヒット率を達成して実効入力コストを削減します。
1 つの API キーが OpenAI と Anthropic の両 SDK で機能し、既存のエージェントコードを最小限の変更で移行できます。
価格を公開したオープンモデルを提供し、ツール呼び出し、JSON モード、ストリーミング、画像入力に対応。出力速度とキャッシュ指標も公開します。
キャッシュヒットは使用量に表示されキャッシュ料金で課金され、測定方法とモデルごとの実効入力価格も公表されています。
無料・オープンソースDeepSeek-V4 と R1 を中核とし、極めて低いトークンコストで提供される高効率なオープンウェイト/ホスト型推論 AI。
柔軟なルーティングで膨大な最先端モデルカタログを利用できるが、OrcaRouterのような専用の企業向けガバナンス機能はない。
無料・オープンソースオープン AI モデルをローカルでもクラウドでも実行・構築


Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.

無料・オープンソース100以上のLLMをフェイルオーバー付きで統合するオープンソースのプロキシとSDKを提供するが、マネージドサービスではなくセルフホストが必要。

Routes requests across frontier models with automatic failover and analytics, serving as a straightforward alternative API proxy.
LLMとマルチモーダルモデルを、ひとつのAPIで高速かつコスト予測可能に推論