即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。
| 項目 / 指標 | ![]() | ![]() |
|---|---|---|
| 公式ドメイン | litellm.ai | mesa.dev |
| 料金モデル | フリーミアム、料金は要問い合わせ | フリーミアム |
| 月間訪問数 | 57.7万 (576,967) | 6563 (6,563) |
| 前月比トラフィック増減 | +4.25万 (+7.9%) | +2141 (+48.4%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (27.9%) | 🇺🇸 アメリカ合衆国 (78.7%) |
| 月間ダイレクト訪問数 | 22.9万 | 2568 |
| ユーザー評価 | 4.8 | 4.3 |
| 対応プラットフォーム | ウェブサイト | ウェブサイト |

100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
1 つのリクエスト形式で 100 以上のプロバイダー、1,800 以上のモデルを呼び出し、アプリのコードを変えずにモデルを切り替えられます。
チーム、プロジェクト、アプリごとにスコープ付きキーを発行し、月次支出上限を設定して、誰がどれだけ使っているかを可視化します。
複数のデプロイにトラフィックを分散し、失敗時にリトライし、モデルやプロバイダーの障害時には自動で別の選択肢へ切り替えます。
リクエスト数、トークン数、モデル別コストをダッシュボードで確認でき、ログや分析ツールとの連携にも対応します。

AIエージェントのためのバージョン管理ファイルシステム
100% POSIX互換のマウントにより、エージェントとサンドボックスが使い慣れたUnixツールを利用でき、永続化、同期、履歴は下層で透過的に処理されます。
ワークスペースをミリ秒でフォークし、分離ブランチ上で数十のエージェントを実行し、ファイルロックなしで最良の結果を選べます。
各ステップでファイルシステム全体をスナップショットし、エージェントが脱線した際に1回のAPI呼び出しで任意の過去状態へ戻せます。
任意のエージェントを一時停止してレビューを受け、承認キューとポリシーゲートを構築し、同じワークスペース状態から再開できます。
即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。

特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
エンドツーエンド暗号化の高信頼フロンティア推論

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

無料・オープンソースMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
無料・オープンソースMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
Pinecone is a managed vector database and AI knowledge platform for building retrieval-augmented generation (RAG), semantic search, and agent memory. It stores vector embeddings at scale, makes writes searchable within seconds with no index tuning, and keeps p99 latency steady as data grows. Pinecone powers products for more than 10,000 customers and over a million developers worldwide.
Pinecone is a managed vector database and AI knowledge platform for building retrieval-augmented generation (RAG), semantic search, and agent memory. It stores vector embeddings at scale, makes writes searchable within seconds with no index tuning, and keeps p99 latency steady as data grows. Pinecone powers products for more than 10,000 customers and over a million developers worldwide.