# LiteLLM vs supermemory

LiteLLM 每月有 576,967 次造訪，月增率 +7.9%，定價模式為免費增值、需聯絡報價。supermemory 每月有 156,579 次造訪，成長率 -7.7%，定價模式為需聯絡報價。

| 指標 | [LiteLLM](https://openaitools.app/tw/tool/litellm) | [supermemory](https://openaitools.app/tw/tool/supermemory-1) |
| :--- | :--- | :--- |
| 網站網址 | https://litellm.ai | https://supermemory.ai |
| 分類 | AI API, Large Language Models (LLMs), AI 開發者工具, 開源 AI 模型 | AI API, Large Language Models (LLMs), AI 開發者工具, AI Agent |
| 定價模式 | 免費增值、需聯絡報價 | 需聯絡報價 |
| 每月造訪次數 | 576,967 | 156,579 |
| 月成長率 | +7.9% | -7.7% |
| 主要市場 | 美國 | 美國 |
| 直接造訪 | 228,967 | 71,163 |
| 評論分數 | 4.8 | 4.5 |
| 收藏數 | 5 | 0 |
| 支援平台 | 網站 | 網站 |

## LiteLLM

LiteLLM 是專為消除 LLM 應用廠商鎖定而設計的開源 AI 閘道與 Python SDK。透過該 SDK，你可以用同一套 OpenAI 風格的請求格式呼叫 OpenAI、Anthropic、Google Vertex AI、Bedrock、Mistral、Azure 及數十家其他供應商的模型，因此切換模型只需改設定，無須重寫程式碼。同一專案還提供 AI 閘道（常被稱為代理），把這種抽象變成全組織共享的服務。

閘道是多數平台團隊真正受益的地方。它為團隊、專案或應用簽發限定範圍的虛擬金鑰，按金鑰追蹤預算內的支出，施加速率限制（TPM 與 RPM），並提供請求量、Token 用量與各模型成本的可視化面板。路由能力包括跨部署負載平衡、供應商故障時自動回退、重試與基於預算的重路由，並配有 PII 去識別化、提示注入偵測與機密外洩偵測等護欄。

該專案是真正的開源專案，程式碼託管於 GitHub（BerriAI/litellm），社群非常活躍。企業版功能增加 SSO、稽核日誌，並支援透過同一閘道接入代理程式與 MCP 伺服器。值得一提的是，LiteLLM 對新模型提供「零日支援」，新模型一發布即可接入；同時也能把自託管、微調與內部模型放在同一金鑰之後統一服務。官網列出的客戶包括 NVIDIA、Netflix、Okta、Lemonade 與 AT&T。

**價格與方案:** 免費增值且開源。自託管的 LiteLLM 閘道與 SDK 在開源授權下免費使用，並可透過免費額度快速上手。含 SSO、稽核日誌、SLA 與進階支援的企業方案需聯絡業務取得報價。

- **面向 100+ LLM 的 OpenAI 相容 API:** 用一套請求格式呼叫 100 多個供應商與 1,800 多個模型，切換模型無須修改應用程式碼。
- **虛擬金鑰、團隊與預算:** 為團隊、專案或應用簽發限定範圍的金鑰，設定每月支出上限，清楚看到誰在用、花了多少。
- **路由、負載平衡與回退:** 在多個部署間分配流量，失敗時自動重試，某個模型或供應商故障時回退到備選。
- **可觀測性與成本追蹤:** 用面板查看請求量、Token 數與各模型成本，並支援日誌與分析工具整合。
- **護欄與策略控制:** 接入 PII 去識別化、提示注入偵測與機密外洩偵測護欄，把策略集中管理而非散落在各應用中。

**優勢:** 真正的開源專案，GitHub 社群龐大且支援自託管; 供應商覆蓋極廣，並提供 OpenAI 相容介面; 企業級管控：虛擬金鑰、預算、速率限制與稽核日誌; 新模型零日支援，供應商故障時可輕鬆回退

**限制:** 自託管意味著部署、升級與可用性都由你自己負責; 免費開源版與企業版在功能深度上存在差異; 設定項繁多，小型專案可能覺得過於複雜

[Profile (Markdown)](https://openaitools.app/tw/tool/litellm.md)

## supermemory

多數 LLM 應用把記憶當作附帶功能：把聊天歷史塞進提示詞直到上下文塞滿，下一次工作階段或換一個模型就全部遺失。supermemory 把這個問題當作基礎設施來處理。它的 learner-1 模型讀取輸入材料——對話、檔案、URL、原始資料——並針對向量圖資料庫執行更新、合併、推論與遺忘操作，讓記憶保持密集、互相關聯且帶有時間維度，而不是堆成不斷膨脹的對話紀錄。

在請求時，相關記憶會以 token 形式直接注入 Agent 的上下文，因此方案與具體模型與執行框架無關。由於學習與記憶存在於模型廠商之外，同一份累積的理解會隨應用一起遷移，無論背後是 Claude、GPT 系列、Gemini 還是開源權重模型，也無論透過 SDK、外掛還是 MCP 呼叫。

該公司把這視為 Agent 基礎設施中最難的部分，並以公開數據支撐：生產流量下亞秒級回憶、每月處理約一兆 token、在 LongMemEval、LoCoMo 與 ConvoMem 上的基準表現，以及在大規模語料下與 markdown 檔案記憶的成本對比。企業能力包括 SOC 2 Type II 認證、較高檔位的 HIPAA BAA、GDPR 合規，以及從雲端到 VPC、本地資料中心與離線隔離環境的多種部署方式。

**價格與方案:** 定價分為自助方案與企業合約兩部分，因此官網採用聯絡取得報價的模式。Free、Pro 與 Max 方案涵蓋標準 PDF 解析與個人使用；Scale 和 Enterprise 則提供含 OCR、圖表與示意圖描述的高階文件解析、更高額度、SOC 2 Type II 與 HIPAA BAA 等安全承諾，以及部署到你方 VPC、資料中心或離線隔離環境的選擇。具體金額請以官網定價頁的當前費率為準。

- **learner-1 記憶模型:** 專用模型在既有上下文上執行萃取、合併、推論與遺忘，讓記憶圖譜持續優化，而不只是不斷累積。
- **向量圖記憶庫:** 每條學習結果都與相關實體、來源與時刻建立關聯，不僅儲存內容，還保留帶有時間維度的關係圖。
- **模型、框架與 MCP 無關:** 記憶位於模型廠商之外，透過 API、SDK、外掛與 MCP 使用，上下文可跨模型與工具遷移。
- **即時上下文注入:** 相關記憶在請求時以 token 形式注入提示詞，讓 Agent 獲得貼合需求的上下文，而無需攜帶無限增長的對話紀錄。
- **企業部署與合規:** 提供 SOC 2 Type II、較高檔位的 HIPAA BAA、GDPR 合規，並支援雲端、你方 VPC、本地資料中心或離線隔離部署。

**優勢:** 記憶與模型廠商解耦，累積的上下文在更換模型後仍然可用; 有充分的工程證據，包括公開基準、延遲數據與成本對比; 多種整合方式——REST API、SDK、外掛與 MCP; 企業能力扎實：SOC 2 Type II、HIPAA BAA、GDPR 以及離線隔離部署

**限制:** 官網自助定價資訊較少，具體方案費用可能需要與業務溝通; 它是基礎設施而非終端應用，看到價值前需要真實的整合投入; 基準結果與採用數據由廠商自行發布，值得用自身業務負載驗證

[Profile (Markdown)](https://openaitools.app/tw/tool/supermemory-1.md)

## 常見問題

### LiteLLM 與 supermemory 的每月流量相比如何？

LiteLLM 每月有 576,967 次造訪，而 supermemory 有 156,579。流量估算反映受眾規模，並非產品品質。

### 兩者的成長率相比如何？

LiteLLM 的月增率為 +7.9%；supermemory 為 -7.7%。

### 價格相比如何？

LiteLLM：免費增值、需聯絡報價。免費增值且開源。自託管的 LiteLLM 閘道與 SDK 在開源授權下免費使用，並可透過免費額度快速上手。含 SSO、稽核日誌、SLA 與進階支援的企業方案需聯絡業務取得報價。 supermemory：需聯絡報價。定價分為自助方案與企業合約兩部分，因此官網採用聯絡取得報價的模式。Free、Pro 與 Max 方案涵蓋標準 PDF 解析與個人使用；Scale 和 Enterprise 則提供含 OCR、圖表與示意圖描述的高階文件解析、更高額度、SOC 2 Type II 與 HIPAA BAA 等安全承諾，以及部署到你方 VPC、資料中心或離線隔離環境的選擇。具體金額請以官網定價頁的當前費率為準。

## 替代方案

| # | 工具名稱 | 每月造訪次數 | 月成長率 | 定價模式 | Summary | Profile (Markdown) |
| :--- | :--- | :--- | :--- | :--- | :--- | :--- |
| 1 | [OpenRouter](https://openaitools.app/tw/tool/openrouter-ai) | 19,941,437 | -6.2% | 付費 | 提供龐大的託管模型目錄並可即時存取，但需要信任第三方平台而非自行架設。 | [.md](https://openaitools.app/tw/tool/openrouter-ai.md) |
| 2 | [Composio](https://openaitools.app/tw/tool/composio) | 2,782,603 | +22.8% | 免費增值、需聯絡報價 | Focuses on tool integrations and authentication for agents, complementing memory engines rather than storing cross-session context. | [.md](https://openaitools.app/tw/tool/composio.md) |
| 3 | [Together AI](https://openaitools.app/tw/tool/together-ai) | 1,645,930 | +64.9% | 免費增值、付費 | Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers. | [.md](https://openaitools.app/tw/tool/together-ai.md) |
| 4 | [OrcaRouter](https://openaitools.app/tw/tool/orcarouter) | 975,300 | -5.2% | 免費增值 | 透過 API 閘道器提供自動模型備援切換與預算管理，但開源自訂性較低。 | [.md](https://openaitools.app/tw/tool/orcarouter.md) |
| 5 | [ZenMux](https://openaitools.app/tw/tool/zenmux) | 444,394 | +16.7% | 免費增值、付費 | Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support. | [.md](https://openaitools.app/tw/tool/zenmux.md) |
| 6 | [Merge](https://openaitools.app/tw/tool/merge-dev) | 313,201 | +1.7% | 免費增值、需聯絡報價 | 連結代理、資料、工具與模型的通用上下文引擎 | [.md](https://openaitools.app/tw/tool/merge-dev.md) |
| 7 | [Pinecone](https://openaitools.app/tw/tool/pinecone) | 286,732 | -31% | 免費增值、付費、需聯絡報價 | 提供企業級的可擴展向量搜尋與 RAG 儲存，但缺乏 supermemory 的自動化代理記憶體圖譜抽象功能。 | [.md](https://openaitools.app/tw/tool/pinecone.md) |
| 8 | [Portkey](https://openaitools.app/tw/tool/portkey-ai) | 195,650 | -9.4% | 免費增值、付費、需聯絡報價 | 面向生產級 LLM 應用的 AI 閘道、可觀測性與護欄 | [.md](https://openaitools.app/tw/tool/portkey-ai.md) |
| 9 | [Eden AI](https://openaitools.app/tw/tool/eden-ai) | 173,828 | +6.5% | 付費、需聯絡報價 | 提供受管的多家供應商 AI 路由與成本追蹤，但缺乏 LiteLLM 原生的開源靈活性。 | [.md](https://openaitools.app/tw/tool/eden-ai.md) |
| 10 | [LLM Gateway](https://openaitools.app/tw/tool/llm-gateway) | 168,426 | -14.5% | 免費增值、需聯絡報價 | 一個用來統一 LLM 供應商的開源替代方案，但中介軟體整合的生態系較不那麼豐富。 | [.md](https://openaitools.app/tw/tool/llm-gateway.md) |

---
來源：https://openaitools.app/tw/compare/litellm-vs-supermemory-1

More Markdown: [分類](https://openaitools.app/tw/categories.md) · [流量排名](https://openaitools.app/tw/rankings.md) · [llms.txt](https://openaitools.app/tw/llms.txt)
