LiteLLM 每月有 576,967 次造訪,月增率 +7.9%,定價模式為免費增值、需聯絡報價。N71(tlc.ai)每月有 0 次造訪,成長率 0%,定價模式為付費、需聯絡報價。
| 面向/指標 | ![]() | |
|---|---|---|
| 官方網域 | litellm.ai | n71.ai |
| 定價模式 | 免費增值、需聯絡報價 | 付費、需聯絡報價 |
| 每月造訪次數 | 57.7萬 (576,967) | 0 (0) |
| 月流量變化量 | +4.25萬 (+7.9%) | 0 (0%) |
| 主要市場與市佔 | 🇺🇸 美國 (27.9%) | 🌐 全球 (—) |
| 每月直接造訪 | 22.9萬 | 0 |
| 使用者評分 | 4.8 | 4.1 |
| 支援平台 | 網站 | 網站 |

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。
讓每個模型 token 產出更多——LLM 成本最多降低 30%+
置於應用原本呼叫的模型 API 之後,保留現有模型客戶端、提示詞與對話流程,無需重寫。
可搭配你已在使用的多家 LLM 供應商,而不把你綁死在單一廠商或模型家族上。
公司稱可實現 30%+ 的模型成本降幅,並提供文件與基準方法,方便用自有請求驗證。
公開的基準說明了節省如何計算,包括比較雙方的模型呼叫、處理、校驗與重試。

專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理,但開源自訂性較低。
免費 / 開源Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
免費 / 開源Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
免費 / 開源一個用來統一 LLM 供應商的開源替代方案,但中介軟體整合的生態系較不那麼豐富。