#1LiteLLM 每月有 576,967 次造訪,月增率 +7.9%,定價模式為免費增值、需聯絡報價。TokenByte 每月有 0 次造訪,成長率 0%,定價模式為 Pay-as-you-go。
| 面向/指標 | ![]() | ![]() |
|---|---|---|
| 官方網域 | litellm.ai | tokenbyte.ai |
| 定價模式 | 免費增值、需聯絡報價 | Pay-as-you-go |
| 每月造訪次數 | 57.7萬 (576,967) | 0 (0) |
| 月流量變化量 | +4.25萬 (+7.9%) |
| 0 (0%) |
| 主要市場與市佔 | 🇺🇸 美國 (27.9%) | 🌐 全球 (—) |
|---|
| 每月直接造訪 | 22.9萬 | 0 |
|---|
| 使用者評分 | 4.8 | 4.1 |
|---|
| 支援平台 | 網站 | 網站 |
|---|

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。

一個 API Key,呼叫所有主流 AI 模型
將現有 OpenAI SDK 用戶端的位址指向 https://api.tokenbyte.ai/v1 並使用 TokenByte API Key 驗證,即可切換模型而無需重寫程式碼。
透過統一的 API 存取 OpenAI、Claude、Gemini、DeepSeek 等廠商的模型。
在單一儀表板中即時監控 API 請求、Token 用量、模型分布、延遲與花費。
每個模型的輸入與輸出費率清楚分列,方便上線前估算與比較成本。
#1
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2
提供進階的企業級可觀測性與安全防護工具,但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。

免費 / 開源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理,但開源自訂性較低。
一把 API 金鑰呼叫數百個 AI 模型