# LiteLLM vs supermemory

LiteLLM ghi nhận 576.967 lượt truy cập hàng tháng với mức tăng trưởng so với tháng trước là +7,9% và giá Freemium, Liên hệ để biết giá. supermemory ghi nhận 156.579 lượt truy cập hàng tháng với mức tăng trưởng -7,7% và giá Liên hệ để biết giá.

| Chỉ số | [LiteLLM](https://openaitools.app/vi/tool/litellm) | [supermemory](https://openaitools.app/vi/tool/supermemory-1) |
| :--- | :--- | :--- |
| URL trang web | https://litellm.ai | https://supermemory.ai |
| Danh mục | AI API, Large Language Models (LLMs), Công cụ cho lập trình viên AI, Mô hình AI mã nguồn mở | AI API, Large Language Models (LLMs), Công cụ cho lập trình viên AI, AI Agent |
| Mô hình giá | Freemium, Liên hệ để biết giá | Liên hệ để biết giá |
| Lượt truy cập hàng tháng | 576.967 | 156.579 |
| Tốc độ tăng trưởng theo tháng | +7,9% | -7,7% |
| Thị trường chính | Hoa Kỳ | Hoa Kỳ |
| Truy cập trực tiếp | 228.967 | 71.163 |
| Điểm đánh giá | 4,8 | 4,5 |
| Số lượt lưu | 5 | 0 |
| Nền tảng được hỗ trợ | Trang web | Trang web |

## LiteLLM

LiteLLM là cổng AI và SDK Python mã nguồn mở, được tạo ra để loại bỏ tình trạng phụ thuộc một nhà cung cấp trong các ứng dụng LLM. Với SDK, bạn gọi mô hình từ OpenAI, Anthropic, Google Vertex AI, Bedrock, Mistral, Azure và hàng chục nhà cung cấp khác bằng cùng định dạng yêu cầu kiểu OpenAI, nên đổi mô hình chỉ là thay đổi cấu hình chứ không phải viết lại mã. Cùng dự án còn có cổng AI (thường gọi là proxy) biến lớp trừu tượng đó thành dịch vụ dùng chung cho toàn tổ chức.

Chính cổng này mang lại giá trị cho phần lớn đội nền tảng. Nó cấp khóa ảo giới hạn theo nhóm, dự án hoặc ứng dụng, theo dõi chi tiêu theo khóa so với ngân sách, áp đặt giới hạn tốc độ (TPM và RPM) và cung cấp bảng điều khiển về lượng yêu cầu, lượng token và chi phí theo từng mô hình. Định tuyến gồm cân bằng tải giữa các triển khai, tự động dự phòng khi nhà cung cấp gặp sự cố, thử lại và định tuyến lại theo ngân sách, kèm guardrail che dấu PII, phát hiện prompt injection và phát hiện lộ bí mật.

Dự án thực sự là mã nguồn mở, mã nguồn trên GitHub (BerriAI/litellm) với cộng đồng rất sôi động. Các tính năng doanh nghiệp bổ sung SSO, nhật ký kiểm toán và hỗ trợ agent cùng máy chủ MCP qua cùng cổng. Đáng chú ý là hỗ trợ «day-zero» cho mô hình mới, dùng được ngay ngày ra mắt, và khả năng phục vụ mô hình tự triển khai, tinh chỉnh và nội bộ sau cùng một khóa. Các khách hàng được nêu trên trang gồm NVIDIA, Netflix, Okta, Lemonade và AT&T.

**Giá & các gói:** Freemium và mã nguồn mở. Cổng và SDK tự triển khai miễn phí theo giấy phép mã nguồn mở, có gói miễn phí để bắt đầu ngay. Gói doanh nghiệp với SSO, nhật ký kiểm toán, SLA và hỗ trợ nâng cao cần liên hệ bộ phận kinh doanh để báo giá.

- **API tương thích OpenAI cho hơn 100 LLM:** Gọi hơn 100 nhà cung cấp và 1.800 mô hình bằng một định dạng yêu cầu, đổi mô hình mà không cần sửa mã ứng dụng.
- **Khóa ảo, nhóm và ngân sách:** Cấp khóa giới hạn theo nhóm, dự án hoặc ứng dụng, đặt hạn mức chi tiêu hàng tháng và thấy rõ ai đang tạo ra mức dùng và chi phí.
- **Định tuyến, cân bằng tải và dự phòng:** Phân phối lưu lượng giữa các triển khai, thử lại khi lỗi và tự động chuyển sang mô hình hoặc nhà cung cấp khác khi có sự cố.
- **Khả năng quan sát và theo dõi chi phí:** Bảng điều khiển về lượng yêu cầu, token và chi phí theo mô hình, hỗ trợ tích hợp logging và phân tích.
- **Guardrail và kiểm soát chính sách:** Gắn guardrail che dấu PII, phát hiện prompt injection và phát hiện lộ bí mật, quản lý chính sách tập trung thay vì rải rác từng ứng dụng.

**Điểm mạnh:** Mã nguồn mở thực sự với cộng đồng GitHub lớn và tùy chọn tự triển khai; Độ phủ nhà cung cấp rất rộng cùng giao diện tương thích OpenAI; Kiểm soát cấp doanh nghiệp: khóa ảo, ngân sách, giới hạn tốc độ và nhật ký kiểm toán; Hỗ trợ day-zero cho mô hình mới và dự phòng dễ dàng khi nhà cung cấp gặp sự cố

**Hạn chế:** Tự triển khai đồng nghĩa bạn tự chịu trách nhiệm vận hành, nâng cấp và thời gian hoạt động; Độ sâu tính năng khác nhau giữa bản mã nguồn mở và gói doanh nghiệp; Quá nhiều tùy chọn cấu hình có thể khiến dự án nhỏ choáng ngợp

[Profile (Markdown)](https://openaitools.app/vi/tool/litellm.md)

## supermemory

Phần lớn ứng dụng LLM coi bộ nhớ là thứ phụ: nhồi lịch sử trò chuyện vào prompt cho tới khi đầy cửa sổ ngữ cảnh, rồi mất hết ở phiên sau hoặc khi đổi mô hình. supermemory tiếp cận vấn đề này như hạ tầng. Mô hình learner-1 của nó đọc tư liệu đầu vào — hội thoại, tệp, URL, dữ liệu thô — và thực hiện các thao tác cập nhật, hợp nhất, suy diễn và quên trên cơ sở dữ liệu đồ thị vector, nhờ đó kiến thức học được luôn dày đặc, liên kết và có ý niệm về thời gian thay vì tích tụ thành bản ghi hội thoại ngày càng dài.

Tại thời điểm yêu cầu, các ký ức liên quan được tiêm dưới dạng token trực tiếp vào ngữ cảnh của agent, nhờ đó cách tiếp cận không phụ thuộc vào mô hình hay khung thực thi. Vì việc học và bộ nhớ nằm ngoài các nhà cung cấp mô hình, hiểu biết tích lũy sẽ đi cùng ứng dụng, bất kể chạy trên Claude, các mô hình dòng GPT, Gemini hay mô hình trọng số mở, và bất kể điều khiển qua SDK, plugin hay MCP.

Công ty xem đây là phần khó nhất của hạ tầng agent và củng cố bằng các con số công bố: truy hồi dưới một giây trên lưu lượng thật, khoảng một nghìn tỷ token xử lý mỗi tháng, kết quả trên LongMemEval, LoCoMo và ConvoMem, cùng so sánh chi phí với bộ nhớ dạng tệp markdown ở quy mô lớn. Về phía doanh nghiệp có chứng nhận SOC 2 Type II, BAA HIPAA ở các gói cao hơn, tuân thủ GDPR và các lựa chọn triển khai từ đám mây đến VPC của bạn, trung tâm dữ liệu riêng và môi trường cách ly hoàn toàn.

**Giá & các gói:** Giá được chia giữa các gói tự phục vụ và hợp đồng doanh nghiệp, vì vậy trang web hiển thị mô hình giá theo liên hệ. Các gói Free, Pro và Max bao phủ trích xuất PDF tiêu chuẩn và nhu cầu cá nhân, còn Scale và Enterprise bổ sung trích xuất tài liệu nâng cao với OCR và mô tả hình, biểu đồ, hạn mức cao hơn, cam kết bảo mật như SOC 2 Type II và BAA HIPAA, cùng lựa chọn triển khai vào VPC, trung tâm dữ liệu của bạn hoặc môi trường cách ly. Hãy xác nhận mức giá chính xác trên trang giá.

- **Mô hình bộ nhớ learner-1:** Mô hình chuyên dụng trích xuất, hợp nhất, suy diễn và quên trên ngữ cảnh đã lưu, giúp đồ thị bộ nhớ cải thiện liên tục thay vì chỉ tích lũy.
- **Kho bộ nhớ đồ thị vector:** Mỗi kiến thức học được liên kết với các thực thể, nguồn và thời điểm xung quanh, lưu không chỉ nội dung mà cả bản đồ có ý niệm thời gian.
- **Không phụ thuộc mô hình, framework hay MCP:** Bộ nhớ nằm ngoài các nhà cung cấp mô hình và được dùng qua API, SDK, plugin và MCP, nên ngữ cảnh đi cùng qua các mô hình và công cụ.
- **Tiêm ngữ cảnh theo thời gian thực:** Ký ức liên quan được tiêm dưới dạng token vào prompt ngay khi có yêu cầu, mang lại ngữ cảnh phù hợp mà không cần bản ghi vô hạn.
- **Triển khai và tuân thủ doanh nghiệp:** SOC 2 Type II, BAA HIPAA ở gói cao hơn, tuân thủ GDPR, cùng khả năng triển khai trên đám mây, VPC của bạn, trung tâm dữ liệu riêng hoặc môi trường cách ly.

**Điểm mạnh:** Bộ nhớ tách khỏi nhà cung cấp mô hình, nên ngữ cảnh tích lũy vẫn sống khi đổi mô hình; Bằng chứng kỹ thuật phong phú: benchmark công bố, số liệu độ trễ và so sánh chi phí; Nhiều cách tích hợp: API REST, SDK, plugin và MCP; Năng lực doanh nghiệp vững chắc với SOC 2 Type II, BAA HIPAA, GDPR và triển khai cách ly

**Hạn chế:** Thông tin giá tự phục vụ trên trang công khai còn mỏng, chi phí chính xác có thể cần trao đổi với bộ phận bán hàng; Đây là hạ tầng chứ không phải ứng dụng cuối, nên cần công sức tích hợp thực sự trước khi thấy giá trị; Benchmark và số liệu sử dụng do nhà cung cấp công bố, nên kiểm chứng với chính khối lượng công việc của bạn

[Profile (Markdown)](https://openaitools.app/vi/tool/supermemory-1.md)

## Câu hỏi thường gặp

### LiteLLM và supermemory so sánh thế nào về lưu lượng hàng tháng?

LiteLLM có 576.967 lượt truy cập hàng tháng, trong khi supermemory có 156.579. Ước tính lưu lượng phản ánh quy mô khán giả chứ không phải chất lượng sản phẩm.

### Tốc độ tăng trưởng của họ so sánh thế nào?

LiteLLM có tốc độ tăng trưởng so với tháng trước là +7,9%; supermemory là -7,7%.

### Giá cả so sánh thế nào?

LiteLLM: Freemium, Liên hệ để biết giá. Freemium và mã nguồn mở. Cổng và SDK tự triển khai miễn phí theo giấy phép mã nguồn mở, có gói miễn phí để bắt đầu ngay. Gói doanh nghiệp với SSO, nhật ký kiểm toán, SLA và hỗ trợ nâng cao cần liên hệ bộ phận kinh doanh để báo giá. supermemory: Liên hệ để biết giá. Giá được chia giữa các gói tự phục vụ và hợp đồng doanh nghiệp, vì vậy trang web hiển thị mô hình giá theo liên hệ. Các gói Free, Pro và Max bao phủ trích xuất PDF tiêu chuẩn và nhu cầu cá nhân, còn Scale và Enterprise bổ sung trích xuất tài liệu nâng cao với OCR và mô tả hình, biểu đồ, hạn mức cao hơn, cam kết bảo mật như SOC 2 Type II và BAA HIPAA, cùng lựa chọn triển khai vào VPC, trung tâm dữ liệu của bạn hoặc môi trường cách ly. Hãy xác nhận mức giá chính xác trên trang giá.

## Lựa chọn thay thế

| # | Tên công cụ | Lượt truy cập hàng tháng | Tốc độ tăng trưởng theo tháng | Mô hình giá | Summary | Profile (Markdown) |
| :--- | :--- | :--- | :--- | :--- | :--- | :--- |
| 1 | [OpenRouter](https://openaitools.app/vi/tool/openrouter-ai) | 19.941.437 | -6,2% | Trả phí | Cung cấp danh mục mô hình lưu trữ khổng lồ với khả năng truy cập tức thì, nhưng đòi hỏi phải tin tưởng nền tảng của bên thứ ba thay vì tự lưu trữ. | [.md](https://openaitools.app/vi/tool/openrouter-ai.md) |
| 2 | [Composio](https://openaitools.app/vi/tool/composio) | 2.782.603 | +22,8% | Freemium, Liên hệ để biết giá | Focuses on tool integrations and authentication for agents, complementing memory engines rather than storing cross-session context. | [.md](https://openaitools.app/vi/tool/composio.md) |
| 3 | [Together AI](https://openaitools.app/vi/tool/together-ai) | 1.645.930 | +64,9% | Freemium, Trả phí | Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers. | [.md](https://openaitools.app/vi/tool/together-ai.md) |
| 4 | [OrcaRouter](https://openaitools.app/vi/tool/orcarouter) | 975.300 | -5,2% | Freemium | Cung cấp tính năng chuyển đổi dự phòng mô hình tự động và quản trị ngân sách thông qua cổng API, nhưng ít tùy chỉnh mã nguồn mở hơn. | [.md](https://openaitools.app/vi/tool/orcarouter.md) |
| 5 | [ZenMux](https://openaitools.app/vi/tool/zenmux) | 444.394 | +16,7% | Freemium, Trả phí | Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support. | [.md](https://openaitools.app/vi/tool/zenmux.md) |
| 6 | [Merge](https://openaitools.app/vi/tool/merge-dev) | 313.201 | +1,7% | Freemium, Liên hệ để biết giá | Cỗ máy ngữ cảnh phổ quát kết nối agent với dữ liệu, công cụ và mô hình | [.md](https://openaitools.app/vi/tool/merge-dev.md) |
| 7 | [Pinecone](https://openaitools.app/vi/tool/pinecone) | 286.732 | -31% | Freemium, Trả phí, Liên hệ để biết giá | Cung cấp khả năng tìm kiếm vector có khả năng mở rộng và lưu trữ RAG cấp doanh nghiệp, nhưng thiếu các lớp trừu tượng đồ thị bộ nhớ agent tự động của supermemory. | [.md](https://openaitools.app/vi/tool/pinecone.md) |
| 8 | [Portkey](https://openaitools.app/vi/tool/portkey-ai) | 195.650 | -9,4% | Freemium, Trả phí, Liên hệ để biết giá | AI gateway, khả năng quan sát và guardrail cho ứng dụng LLM production | [.md](https://openaitools.app/vi/tool/portkey-ai.md) |
| 9 | [Eden AI](https://openaitools.app/vi/tool/eden-ai) | 173.828 | +6,5% | Trả phí, Liên hệ để biết giá | Cung cấp tính năng định tuyến AI đa nhà cung cấp được quản lý và theo dõi chi phí, nhưng thiếu đi tính linh hoạt mã nguồn mở gốc của LiteLLM. | [.md](https://openaitools.app/vi/tool/eden-ai.md) |
| 10 | [LLM Gateway](https://openaitools.app/vi/tool/llm-gateway) | 168.426 | -14,5% | Freemium, Liên hệ để biết giá | Một giải pháp thay thế mã nguồn mở để thống nhất các nhà cung cấp LLM, nhưng có hệ sinh thái tích hợp phần mềm trung gian ít phong phú hơn. | [.md](https://openaitools.app/vi/tool/llm-gateway.md) |

---
Nguồn: https://openaitools.app/vi/compare/litellm-vs-supermemory-1

More Markdown: [Danh mục](https://openaitools.app/vi/categories.md) · [Bảng xếp hạng lưu lượng](https://openaitools.app/vi/rankings.md) · [llms.txt](https://openaitools.app/vi/llms.txt)
