# LiteLLM 根据 OpenAITools.app 于 2026-11-11 核对的流量数据，LiteLLM（litellm.ai）是一个收录在 AI API 下的 AI 平台，月访问量为 57.7万，月度环比流量变化为 +4.25万（+7.9%）。其主要地理市场为美国（27.9% 流量份额），采用免费增值，定价请咨询定价模式。按月流量计算的主要竞争替代方案包括 OpenRouter（1994.14万次访问/月），Portkey（19.57万次访问/月），LLM Gateway（16.84万次访问/月）。 一个开源 AI 网关，接入 100 多个 LLM 提供商 ## 关键遥测与规格 | 指标 | 数值 | | :--- | :--- | | 工具名称 | LiteLLM | | 标识 | litellm | | Status | active | | Origin | open_source | | Maintenance | active | | 官方域名 | litellm.ai | | 官网地址 | https://litellm.ai | | 分类 | AI API, Large Language Models (LLMs), AI Developer Tools, Open Source AI Models | | 定价模式 | 免费增值，定价请咨询 | | 月访问量 | 576,967 | | 月度环比流量变化 | 42,483 | | 月度环比增长率 | +7.9% | | 主要市场 | 美国 | | 市场份额 | 27.9% | | 直接访问量 | 228,967 | | 自然搜索访问 | — | | 社交访问 | — | | 推荐访问 | 61,968 | | 邮件访问 | 2,778 | | 评价得分 | 4.8 | | 收藏数 | 5 | | 支持平台 | 网站 | | 计费平台 | | | 属性 | 功能: 网站; 定价: 定价请咨询; 定价: 免费 | | 标签 | LLM 网关, OpenAI 代理, LLM 管理, 成本追踪, 负载均衡, API 管理, 模型访问, 可观测性, 提示词工程 | ## 概览 LiteLLM 是专为消除 LLM 应用厂商锁定而设计的开源 AI 网关与 Python SDK。借助该 SDK，你可以用同一套 OpenAI 风格的请求格式调用 OpenAI、Anthropic、Google Vertex AI、Bedrock、Mistral、Azure 及数十家其他提供商的模型，因此切换模型只需改配置，无需重写代码。同一项目还提供 AI 网关（常被称为代理），把这种抽象变成全组织共享的服务。 网关是多数平台团队真正受益的地方。它为团队、项目或应用签发限定范围的虚拟密钥，按密钥追踪预算内的支出，施加速率限制（TPM 与 RPM），并提供请求量、Token 用量与各模型成本的可视化面板。路由能力包括跨部署负载均衡、提供商故障时自动回退、重试与基于预算的重路由，并配有 PII 脱敏、提示注入检测与密钥泄露检测等护栏。 该项目是真正的开源项目，代码托管在 GitHub（BerriAI/litellm），社区非常活跃。企业版功能增加了 SSO、审计日志，并支持通过同一网关接入智能体与 MCP 服务器。值得一提的是，LiteLLM 对新模型提供「零日支持」，新模型一发布即可接入；同时也能把自托管、微调与内部模型放在同一密钥之后统一服务。官网列出的客户包括 NVIDIA、Netflix、Okta、Lemonade 与 AT&T。 ## 定价与套餐 免费增值且开源。自托管的 LiteLLM 网关与 SDK 在开源许可下免费使用，并可通过免费额度快速上手。含 SSO、审计日志、SLA 与高级支持的企业方案需联系销售获取报价。 ## 关键功能与能力 - **面向 100+ LLM 的 OpenAI 兼容 API:** 用一套请求格式调用 100 多个提供商和 1,800 多个模型，切换模型无须修改应用代码。 - **虚拟密钥、团队与预算:** 为团队、项目或应用签发限定范围的密钥，设置月度支出上限，清晰看到谁在用、花了多少。 - **路由、负载均衡与回退:** 在多个部署间分配流量，失败时自动重试，某个模型或提供商宕机时回退到备选。 - **可观测性与成本追踪:** 用面板查看请求量、Token 数与各模型成本，并支持日志与分析工具集成。 - **护栏与策略控制:** 接入 PII 脱敏、提示注入检测与密钥泄露检测护栏，把策略集中管理而非散落在各个应用中。 ## 主要用例 - **搭建公司级 LLM 网关 (AI 平台工程师):** 为每位开发者提供统一 API 与登录入口，集中管理密钥、预算与访问权限，让平台团队不再成为瓶颈。 - **不改代码切换多家提供商 (后端开发者):** 用 OpenAI SDK 开发，只需改一个配置值即可在 OpenAI、Anthropic、Gemini 或自托管模型之间切换。 - **LLM 成本治理 (FinOps 或工程管理者):** 按团队与模型追踪支出，在超支前设置预算上限，并在质量允许时把昂贵任务路由到更便宜的模型。 - **护栏与审计追踪 (安全与合规负责人):** 在网关层强制 PII 脱敏与提示注入检查，并集中记录哪个模型处理了哪些请求。 ## 优势 - 真正的开源项目，GitHub 社区庞大且支持自托管 - 提供商覆盖极广，并提供 OpenAI 兼容接口 - 企业级管控：虚拟密钥、预算、速率限制与审计日志 - 新模型零日支持，提供商故障时可轻松回退 ## 局限 - 自托管意味着部署、升级与可用性都由你自己负责 - 免费开源版与企业版在功能深度上存在差异 - 配置项繁多，小型项目可能觉得过于复杂 ## 常见问题 ### LiteLLM 究竟是什么？ LiteLLM 是一个项目中的两件事：让开发者用 OpenAI 格式调用 100 多个 LLM 的 Python SDK，以及把这种能力变成全组织共享、可治理入口的 AI 网关（代理），提供密钥、预算、路由与日志功能。 ### LiteLLM 免费吗？ SDK 与自托管网关是开源且可免费运行的，并有免费额度帮助快速上手。SSO、审计日志与 SLA 等企业功能则需要联系销售购买付费方案。 ### 支持哪些提供商与模型？ 项目宣称支持 100 多个提供商、1,800 多个模型与 140 多个提供商集成，涵盖 OpenAI、Anthropic、Google Vertex AI、AWS Bedrock、Mistral、Azure 等，并支持自托管与微调的内部模型。 ### 它有助于控制 LLM 成本吗？ 有帮助。你可以按键、团队或标签设置预算，按模型查看支出明细，并把请求路由到更便宜的模型或回退部署，已有客户借此大幅降低 AI 任务成本。 ### LiteLLM 的月流量和增长趋势如何？ LiteLLM 目前每月获得 57.7万访问量，月度环比流量变化为 +4.25万（增长率 +7.9%）。其主要来源市场是美国（27.9% 份额），包括每月 22.9万次直接访问和每月 — 次自然搜索访问。 ### LiteLLM 免费吗？它的定价模式是什么？ LiteLLM 采用免费增值，定价请咨询定价模式。免费增值且开源。自托管的 LiteLLM 网关与 SDK 在开源许可下免费使用，并可通过免费额度快速上手。含 SSO、审计日志、SLA 与高级支持的企业方案需联系销售获取报价。支持的计费和结账平台包括：未列出。 ### 2026 年 LiteLLM 的最佳替代方案有哪些？ 基于 OpenAITools.app 的分类流量和功能契合度，LiteLLM 的前五个替代方案是：1. OpenRouter（1994.14万次访问/月）; 2. Portkey（19.57万次访问/月）; 3. LLM Gateway（16.84万次访问/月）; 4. Helicone（5.72万次访问/月）; 5. OrcaRouter（97.53万次访问/月）。 ### LiteLLM 支持哪些平台和核心 AI 能力？ LiteLLM 被归类在 AI API, Large Language Models (LLMs), AI Developer Tools, Open Source AI Models 下，支持以下平台：网站，其核心能力标签包括：LLM 网关, OpenAI 代理, LLM 管理, 成本追踪, 负载均衡, API 管理。 ## 替代工具 | 工具名称 | 月访问量 | 定价模式 | 对比 | | :--- | :--- | :--- | :--- | | [OpenRouter](https://openaitools.app/zh/tool/openrouter-ai) | 19,941,437 | 付费 | [对比](https://openaitools.app/zh/compare/litellm-vs-openrouter-ai) | | [Portkey](https://openaitools.app/zh/tool/portkey-ai) | 195,650 | 免费增值，付费，定价请咨询 | [对比](https://openaitools.app/zh/compare/litellm-vs-portkey-ai) | | [LLM Gateway](https://openaitools.app/zh/tool/llm-gateway) | 168,426 | 免费增值，定价请咨询 | [对比](https://openaitools.app/zh/compare/litellm-vs-llm-gateway) | | [Helicone](https://openaitools.app/zh/tool/helicone-ai) | 57,187 | 免费增值，免费试用，付费，定价请咨询，免费 | [对比](https://openaitools.app/zh/compare/helicone-ai-vs-litellm) | | [OrcaRouter](https://openaitools.app/zh/tool/orcarouter) | 975,300 | 免费增值 | [对比](https://openaitools.app/zh/compare/litellm-vs-orcarouter) | | [Eden AI](https://openaitools.app/zh/tool/eden-ai) | 173,828 | 付费，定价请咨询 | [对比](https://openaitools.app/zh/compare/eden-ai-vs-litellm) | | [Respan](https://openaitools.app/zh/tool/respan) | 91,503 | 免费增值 | [对比](https://openaitools.app/zh/compare/litellm-vs-respan) | | [Manifest](https://openaitools.app/zh/tool/manifest) | 54,135 | 免费 | [对比](https://openaitools.app/zh/compare/litellm-vs-manifest) | | [Together AI](https://openaitools.app/zh/tool/together-ai) | 1,645,930 | 免费增值，付费 | [对比](https://openaitools.app/zh/compare/litellm-vs-together-ai) | | [ZenMux](https://openaitools.app/zh/tool/zenmux) | 444,394 | 免费增值，付费 | [对比](https://openaitools.app/zh/compare/litellm-vs-zenmux) | ## 社区 面向 100+ 大模型的 AI 网关，提供模型访问与费用追踪，全部通过 OpenAI 兼容端点实现。 [liteLLM](https://discord.com/invite/wuPM9dRgDw) --- 来源：https://openaitools.app/zh/tool/litellm