即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。
LiteLLM: Acts as an open-source proxy gateway to unify multiple providers, requiring you to bring your own backend compute. Chutes は月間 250,187 訪問、前月比成長率 -15.2%、料金体系有料を記録しています。LiteLLM は月間 576,967 訪問、成長率 +7.9%、料金体系フリーミアム、料金は要問い合わせを記録しています。
| 項目 / 指標 | ![]() | ![]() |
|---|---|---|
| 公式ドメイン | chutes.ai | litellm.ai |
| 料金モデル | 有料 | フリーミアム、料金は要問い合わせ |
| 月間訪問数 | 25.02万 (250,187) | 57.7万 (576,967) |
| 前月比トラフィック増減 | -4.49万 (-15.2%) | +4.25万 (+7.9%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (58.1%) | 🇺🇸 アメリカ合衆国 (27.9%) |
| 月間ダイレクト訪問数 | 18.7万 | 22.9万 |
| ユーザー評価 | 4.7 | 4.8 |
| 対応プラットフォーム | ウェブサイト | ウェブサイト |

オープンソースAIモデルのためのサーバーレス分散推論
ベースURLとキーを差し替えるだけで、既存のOpenAI互換SDKコードがそのまま動きます。
LLMに加えて画像・動画・音声・音楽・埋め込み・モデレーションのモデル、さらに独自コードの実行に対応。
モデルは常時ウォームで、本番トラフィックがコンテナ起動を待つことはありません。
一部モデルはトラステッド実行環境で動作し、プライベートで分離された推論を実現します。

100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
1 つのリクエスト形式で 100 以上のプロバイダー、1,800 以上のモデルを呼び出し、アプリのコードを変えずにモデルを切り替えられます。
チーム、プロジェクト、アプリごとにスコープ付きキーを発行し、月次支出上限を設定して、誰がどれだけ使っているかを可視化します。
複数のデプロイにトラフィックを分散し、失敗時にリトライし、モデルやプロバイダーの障害時には自動で別の選択肢へ切り替えます。
リクエスト数、トークン数、モデル別コストをダッシュボードで確認でき、ログや分析ツールとの連携にも対応します。
即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。
無料・オープンソースRuns open-weight models locally on your own machine instead of providing a cloud-based serverless inference API.
無料・オープンソースRuns open-weight models locally on your own machine instead of providing a cloud-based serverless inference API.

Achieves unmatched inference speed using custom LPU hardware, but supports a more restricted selection of open models.

特化型Specializes in high-speed serverless inference for generative media models rather than general text LLMs.

特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。

APIを介した多様な機械学習モデルの実行とファインチューニングに優れていますが、独自のサーバーレスアーキテクチャを採用しています。
APIを介した多様な機械学習モデルの実行とファインチューニングに優れていますが、独自のサーバーレスアーキテクチャを採用しています。
無料・オープンソースFocuses on memory-efficient model fine-tuning and local execution rather than a hosted decentralized inference cloud.
無料・オープンソースFocuses on memory-efficient model fine-tuning and local execution rather than a hosted decentralized inference cloud.
オープンモデルに対して卓越した推論スループットとファインチューニングを提供しますが、価格や対応モデルカタログは異なります。

オープンウェイトモデル向けに非常に安価なサーバーレスAPI推論を提供しますが、カスタムモデルのデプロイオプションは異なります。

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Hosts popular open-source models with high performance, though regional availability and developer tooling differ from Chutes.
Hosts popular open-source models with high performance, though regional availability and developer tooling differ from Chutes.