LiteLLM: 用于整合 100 多个 LLM API 的开源代理服务器与 SDK,但需要自行托管而不是使用托管市场。 APIMaster 记录了 210,182 月访问量,月度环比增长为 +46.3%,定价为付费。LiteLLM 记录了 576,967 月访问量,增长率为 +7.9%,定价为免费增值,定价请咨询。
| 维度 / 指标 | ![]() | ![]() |
|---|---|---|
| 官方域名 | apimaster.ai | litellm.ai |
| 定价模式 | 付费 | 免费增值,定价请咨询 |
| 月访问量 | 21.02万 (210,182) | 57.7万 (576,967) |
| 月度环比流量变化 | +6.65万 (+46.3%) | +4.25万 (+7.9%) |
| 主要市场与份额 | 🇺🇸 美国 (16.3%) | 🇺🇸 美国 (27.9%) |
| 直接访问 / 月 | 6.57万 | 22.9万 |
| 用户评分 | 4 | 4.8 |
| 支持的平台 | 网站 | 网站 |

以 OpenAI 兼容单一密钥,低价访问 GPT、Claude 与 Gemini
目录涵盖 LLM、图像、视频、音频与嵌入端点共 90 多个模型,均按每百万 token 单价展示。
每个上架的供应商都通过 LLM 指纹测试,确保你拿到的是付费购买的那一个模型。
若某条通道失效,请求会自动转向下一个已验证供应商,无需手动更换密钥。
一个密钥与一份预付余额通用于所有模型,并提供 OpenAI 兼容 Base URL 供 Cursor、LangChain、LiteLLM 使用。

一个开源 AI 网关,接入 100 多个 LLM 提供商
用一套请求格式调用 100 多个提供商和 1,800 多个模型,切换模型无须修改应用代码。
为团队、项目或应用签发限定范围的密钥,设置月度支出上限,清晰看到谁在用、花了多少。
在多个部署间分配流量,失败时自动重试,某个模型或提供商宕机时回退到备选。
用面板查看请求量、Token 数与各模型成本,并支持日志与分析工具集成。

专项更强可直接原生访问 Google 的 Gemini 模型并享有丰厚免费额度,但受限于 Google 生态系统。

专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
通过 API 网关提供自动模型故障转移与预算管理,但开源自定义性较低。
Unified AI inference platform supporting multiple modalities, but less specialized purely for LLM routing.
Unified AI inference platform supporting multiple modalities, but less specialized purely for LLM routing.

在单一端点下提供相当丰富的前沿模型列表,但文档与社区支持较为有限。
在单一端点下提供相当丰富的前沿模型列表,但文档与社区支持较为有限。

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
High-performance cloud inference hosting open-weight models, but narrower commercial model variety than general gateways.
High-performance cloud inference hosting open-weight models, but narrower commercial model variety than general gateways.
提供进阶的企业级可观测性与安全防护工具,但缺乏 LiteLLM 那种轻量、自托管代理服务器的简便性。