Gateway LLM mã nguồn mở sửa yêu cầu của agent ngay tức thì
Lượt truy cập web hằng tháng ước tính
Ước tính của Similarweb cho tên miền này, không phải số người dùng hoạt động. Chỉ hiển thị tháng có dữ liệu; ngày thu thập khác với kỳ thống kê.
Thu thập ngày 11 thg 11, 2026
Đây là đánh giá của ban biên tập trên thang 5, không phải trung bình điểm của người dùng. Các góc nhìn trên trang này do AI tổng hợp từ thông tin về sản phẩm, không phải nhận xét của khách hàng.
Theo dữ liệu đo lường của OpenAITools.app được xác minh vào 2026-11-11, Manifest (manifest.build) là nền tảng AI được lập chỉ mục trong Large Language Models (LLMs), tạo ra 54,14 N lượt truy cập hàng tháng với mức thay đổi lưu lượng so với tháng trước là -16,19 N (-23%). Thị trường địa lý chính của nền tảng này là Hoa Kỳ (thị phần lưu lượng 15,5%), và nền tảng hoạt động theo mô hình giá Miễn phí. Các lựa chọn thay thế cạnh tranh hàng đầu theo lưu lượng hàng tháng bao gồm LLM Gateway (168,43 N lượt truy cập/tháng), OrcaRouter (975,3 N lượt truy cập/tháng), LiteLLM (576,97 N lượt truy cập/tháng).
Gateway LLM mã nguồn mở cực tốt với tính năng tự động chuyển đổi.
Giúp tiết kiệm chi phí API đáng kể.
Góc nhìn do AI tổng hợp dựa trên kiểm tra trang thực tế, biểu phí và chuẩn danh mục — không phải lời chứng thực của từng khách hàng cá nhân.
Một endpoint tương thích OpenAI truy cập mọi mô hình, nhà cung cấp, gói đăng ký hoặc máy chủ cục bộ đã cấu hình.
Yêu cầu LLM sai định dạng hoặc không tương thích được tự động sửa trước khi lỗi tới agent hay ứng dụng.
Tự động thử lại nhà cung cấp khác khi một bên gặp sự cố giúp agent và quy trình không gián đoạn.
Theo dõi từng yêu cầu, token và chi phí theo agent, key và nhà cung cấp, kèm log đầy đủ nội dung yêu cầu và phản hồi.
Chạy router trên hạ tầng của bạn và quyết định chính xác phần nào lên cloud, phần nào giữ cục bộ.
Manifest là gateway LLM mã nguồn mở tập trung vào bài toán độ tin cậy hơn là bài toán mô hình. Thay vì buộc đội ngũ chuẩn hóa về một nhà cung cấp, nó cung cấp một endpoint tương thích OpenAI để agent, harness lập trình và ứng dụng truy cập OpenAI, Anthropic, Google, các gói đăng ký, nhà cung cấp mang key riêng, endpoint tùy chỉnh, và máy chủ cục bộ như Ollama, LM Studio hay llama.cpp. Quy tắc định tuyến và tham số mô hình được cấu hình trực quan theo từng route, nên hành vi thay đổi mà không cần sửa mã ứng dụng.
Tính năng chủ lực là Autofix. Dự án dẫn dữ liệu Datadog cho thấy khoảng 5% lệnh gọi API LLM thất bại trong môi trường thật, nhiều trường hợp có thể tránh được, và Manifest kiểm tra từng yêu cầu trước khi tới nhà cung cấp để sửa payload sai định dạng ngay lập tức. Kết hợp với dự phòng tự động khi nhà cung cấp suy giảm, ghi log đầy đủ yêu cầu và phản hồi, cùng phân tích chi phí theo agent, key và nhà cung cấp, gateway hoạt động như mặt phẳng điều khiển suy luận thay vì chỉ là proxy.
Dự án hoàn toàn mã nguồn mở, có bản tự lưu trữ bằng Docker và bản cloud được quản lý để khởi tạo nhanh hơn, cùng cộng đồng và danh mục lỗi phân loại các sự cố thường gặp của nhà cung cấp. Giá bản quản lý được công bố trên trang giá của site, còn gateway mã nguồn mở miễn phí khi chạy trên hạ tầng của bạn.
Trỏ agent lập trình và harness vào một endpoint để kết hợp gói đăng ký, nhà cung cấp BYOK và mô hình cục bộ với định tuyến tùy chỉnh.
Theo dõi chi phí và token theo agent, key, nhà cung cấp để chi tiêu suy luận minh bạch và quy được nguồn.
Dùng Autofix và dự phòng nhà cung cấp để giữ tính năng AI hướng khách hàng hoạt động khi có sự cố.
Tự lưu trữ router, đưa khối lượng nhạy cảm sang Ollama hoặc llama.cpp và chỉ gửi lưu lượng được duyệt lên cloud.
So sánh dữ liệu đo lường song song giữa các công cụ AI cạnh tranh trong cùng danh mục chính
| Hạng | Công cụ AI | Lượt truy cập hàng tháng | Tăng trưởng theo tháng | Tỷ trọng truy cập trực tiếp | Giá | So sánh trực tiếp |
|---|---|---|---|---|---|---|
| ● | Manifest | 54,14 N | -23% | 63% trực tiếp | Miễn phí | Hiện tại |
| 1 | LLM Gateway | 168,43 N | -14,5% | 59% trực tiếp | Freemium, Liên hệ để biết giá | vs LLM Gateway |
| 2 | OrcaRouter | 975,3 N | -5,2% | 26% trực tiếp | Freemium | vs OrcaRouter |
| 3 | LiteLLM | 576,97 N | +7,9% | 40% trực tiếp | Freemium, Liên hệ để biết giá | vs LiteLLM |
| 4 | Respan | 91,5 N | -14,5% | 25% trực tiếp | Freemium | vs Respan |
| 5 | OpenRouter | 19,94 Tr | -6,2% | 60% trực tiếp | Trả phí | vs OpenRouter |
| 6 | APIPark | 30,74 N | +13,4% | 40% trực tiếp | Freemium, Liên hệ để biết giá | vs APIPark |
Miễn phí / Mã nguồn mởMột API tương thích OpenAI để định tuyến, giám sát và kiểm soát hơn 250 mô hình
Miễn phí / Mã nguồn mởMột API tương thích OpenAI để định tuyến, giám sát và kiểm soát hơn 250 mô hình
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Miễn phí / Mã nguồn mởCổng AI mã nguồn mở cho hơn 100 nhà cung cấp LLM
Miễn phí / Mã nguồn mởCổng AI mã nguồn mở tích hợp khả năng quan sát và đánh giá
Miễn phí / Mã nguồn mởCổng AI mã nguồn mở tích hợp khả năng quan sát và đánh giá
Một API key cho hàng trăm mô hình AI từ mọi nhà cung cấp
Miễn phí / Mã nguồn mởCổng AI mã nguồn mở và portal nhà phát triển API
Miễn phí / Mã nguồn mởNền tảng quan sát LLM và cổng AI mã nguồn mở cho ứng dụng AI ổn định
Miễn phí / Mã nguồn mởNền tảng quan sát LLM và cổng AI mã nguồn mở cho ứng dụng AI ổn định
AI gateway, khả năng quan sát và guardrail cho ứng dụng LLM production
AI gateway, khả năng quan sát và guardrail cho ứng dụng LLM production
Suy luận AI siêu nhanh trên nền tảng LPU và LPX
Suy luận mô hình mở nhanh, kèm định tuyến cache nóng cho agent
Suy luận mô hình mở nhanh, kèm định tuyến cache nóng cho agent
Định tuyến mô hình thông minh cho agent viết mã
Định tuyến mô hình thông minh cho agent viết mã
Một API hợp nhất cho hơn 100 mô hình AI, kèm bảo hiểm khi đầu ra không như ý
Một API hợp nhất cho hơn 100 mô hình AI, kèm bảo hiểm khi đầu ra không như ý
