LiteLLM 记录了 576,967 月访问量,月度环比增长为 +7.9%,定价为免费增值,定价请咨询。Raindrop 记录了 42,807 月访问量,增长率为 -18.4%,定价为免费试用,付费,定价请咨询。

在用户之前发现并修复 AI Agent 的问题
| 维度 / 指标 | ![]() | ![]() |
|---|---|---|
| 官方域名 | litellm.ai | raindrop.ai |
| 定价模式 | 免费增值,定价请咨询 | 免费试用,付费,定价请咨询 |
| 月访问量 | 57.7万 (576,967) | 4.28万 (42,807) |
| 月度环比流量变化 | +4.25万 (+7.9%) | -9630 (-18.4%) |
| 主要市场与份额 | 🇺🇸 美国 (27.9%) | 🇺🇸 美国 (77.1%) |
| 直接访问 / 月 | 22.9万 | 2.36万 |
| 用户评分 | 4.8 | 4.4 |
| 支持的平台 | 网站 | 网站 |

一个开源 AI 网关,接入 100 多个 LLM 提供商
用一套请求格式调用 100 多个提供商和 1,800 多个模型,切换模型无须修改应用代码。
为团队、项目或应用签发限定范围的密钥,设置月度支出上限,清晰看到谁在用、花了多少。
在多个部署间分配流量,失败时自动重试,某个模型或提供商宕机时回退到备选。
用面板查看请求量、Token 数与各模型成本,并支持日志与分析工具集成。

在用户之前发现并修复 AI Agent 的问题
查看一次运行中的每条消息、工具调用与决策,包含输入、输出与耗时,精确锁定问题环节。
把反复出现的故障归并成 issue,附带严重级别、受影响用户、最后出现时间与置信度,取代零散告警。
由 Agent 负责调查并提供后续自动化,覆盖 Slack、网页端与 MCP,让调试发生在团队本已使用的地方。
在 pull request 上针对改动运行场景,并与真实流量比对,合并前拦截回归。

专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
通过 API 网关提供自动模型故障转移与预算管理,但开源自定义性较低。

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

免费 / 开源面向生产级 AI 的智能体可观测性、评估与持续改进平台
提供进阶的企业级可观测性与安全防护工具,但缺乏 LiteLLM 那种轻量、自托管代理服务器的简便性。
免费 / 开源一个用来统一 LLM 供应商的开源替代方案,但中间件整合的生态系较不那么丰富。
免费 / 开源构建、模拟、评估并监控可自我改进的 AI 智能体

免费 / 开源Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
免费 / 开源Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.

免费 / 开源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
免费 / 开源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.