LiteLLM: 用於整合 100 多個 LLM API 的開源代理伺服器與 SDK,但需要自行架構主機而非使用託管市集。 APIMaster 每月有 210,182 次造訪,月增率 +46.3%,定價模式為付費。LiteLLM 每月有 576,967 次造訪,成長率 +7.9%,定價模式為免費增值、需聯絡報價。
| 面向/指標 | ![]() | ![]() |
|---|---|---|
| 官方網域 | apimaster.ai | litellm.ai |
| 定價模式 | 付費 | 免費增值、需聯絡報價 |
| 每月造訪次數 | 21.02萬 (210,182) | 57.7萬 (576,967) |
| 月流量變化量 | +6.65萬 (+46.3%) | +4.25萬 (+7.9%) |
| 主要市場與市佔 | 🇺🇸 美國 (16.3%) | 🇺🇸 美國 (27.9%) |
| 每月直接造訪 | 6.57萬 | 22.9萬 |
| 使用者評分 | 4 | 4.8 |
| 支援平台 | 網站 | 網站 |

以 OpenAI 相容單一金鑰取得折扣的 GPT、Claude、Gemini 存取
目錄涵蓋 LLM、圖像、影片、音訊與嵌入端點共 90 多個模型,皆以每百萬 token 計價。
每個上架供應商都通過 LLM 指紋測試,用來確認你拿到的正是付費購買的模型。
若某條通道失效,請求會自動轉向次一個已驗證供應商,無需手動更換金鑰。
一組金鑰與一份預付餘額通用所有模型,並提供 OpenAI 相容 Base URL 供 Cursor、LangChain、LiteLLM 使用。

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。

專項更強可直接原生存取 Google 的 Gemini 模型並享有大方免費額度,但受限於 Google 生態系。

專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理,但開源自訂性較低。
Unified AI inference platform supporting multiple modalities, but less specialized purely for LLM routing.
Unified AI inference platform supporting multiple modalities, but less specialized purely for LLM routing.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
High-performance cloud inference hosting open-weight models, but narrower commercial model variety than general gateways.
High-performance cloud inference hosting open-weight models, but narrower commercial model variety than general gateways.
提供進階的企業級可觀測性與安全防護工具,但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。