LiteLLM 每月有 576,967 次造訪,月增率 +7.9%,定價模式為免費增值、需聯絡報價。Promptr 每月有 0 次造訪,成長率 0%,定價模式為 Pay-as-you-go。
| 面向/指標 | ![]() | |
|---|---|---|
| 官方網域 | litellm.ai | promptr.dev |
| 定價模式 | 免費增值、需聯絡報價 | Pay-as-you-go |
| 每月造訪次數 | 57.7萬 (576,967) | 0 (0) |
| 月流量變化量 | +4.25萬 (+7.9%) | 0 (0%) |
| 主要市場與市佔 | 🇺🇸 美國 (27.9%) | 🌐 全球 (—) |
| 每月直接造訪 | 22.9萬 | 0 |
| 使用者評分 | 4.8 | 3.6 |
| 支援平台 | 網站 | 網站 |

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。
用一次 REST 呼叫壓縮 LLM 提示詞,降低 token 成本
把提示詞送到單一 REST 端點,即可取回純文字的精簡版本,直接交給模型使用。
供應商表示 LLM 輸入成本最多可降低 40%,並以範例展示某提示詞減少 45%。
提供 curl、Python、JavaScript、C# 的複製即用範例,整合只需數分鐘而非數天。
用標籤包住段落,即可將其排除在壓縮之外,或為該區塊指定特定壓縮比例。

專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理,但開源自訂性較低。
免費 / 開源Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
免費 / 開源Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
提供進階的企業級可觀測性與安全防護工具,但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。
免費 / 開源一個用來統一 LLM 供應商的開源替代方案,但中介軟體整合的生態系較不那麼豐富。
免費 / 開源Honcho is an open-source memory layer for AI agents. It ingests messages, indexes them, and runs background reasoning so agents can recall who a user is, what happened before, and what to do next — across sessions, tools, and machines.

免費 / 開源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
專項更強擅長請求快取、監控與成本分析,但主要作用是代理監控器而非路由器。