LiteLLM: 提供用於模型路由的開源 AI 閘道器,但專注於 LLM 而非通用資料端點。 LiteLLM 每月有 576,967 次造訪,月增率 +7.9%,定價模式為免費增值、需聯絡報價。Treg 每月有 452,935 次造訪,成長率 +223.4%,定價模式為免費增值。
| 面向/指標 | ![]() | ![]() |
|---|---|---|
| 官方網域 | litellm.ai | treg.to |
| 定價模式 | 免費增值、需聯絡報價 | 免費增值 |
| 每月造訪次數 | 57.7萬 (576,967) | 45.29萬 (452,935) |
| 月流量變化量 | +4.25萬 (+7.9%) | +31.29萬 (+223.4%) |
| 主要市場與市佔 | 🇺🇸 美國 (27.9%) | 🇺🇸 美國 (36.8%) |
| 每月直接造訪 | 22.9萬 | 23.53萬 |
| 使用者評分 | 4.8 | 4.5 |
| 支援平台 | 網站 | 網站 |

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。

一個金鑰呼叫 4,100+ 代理工具,按次付費
單一 treg 權杖可路由至 127 家供應商的 4,100+ 端點,無需逐家註冊,也不再散落金鑰檔案。
查看每家供應商的標價及實測成功率、速度和最近回應時間,並可隨時固定偏好的供應商。
每次呼叫僅需不足一分錢,下單前顯示價格,無需購買月度席位。
透過你現有的供應商金鑰路由呼叫,無加價;憑證在伺服器端注入,絕不存在於機器上。

專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

一個通用 API,串接 500+ AI 模型與 1,000+ 代理工具
Provides enterprise-grade AI gateway features and observability, but lacks open-source pay-per-call API monetization tools.