網站月造訪量估算
資料為該網域的 Similarweb 流量估算,不是活躍使用者數。僅顯示有資料的統計月份;擷取時間與流量統計月份分別標示。
擷取於 2026年11月11日

這是編輯給出的評估,滿分 5 分,不是使用者評分的平均值。 本頁的各方觀點由 AI 根據產品資訊歸納,不是真實使用者的評價。
依據 OpenAITools.app 於 2026-11-11 查驗的觀測資料,LLM Gateway(llmgateway.io)是收錄於 AI API 的 AI 平台,每月產生 16.84萬次造訪,月流量變化量為 -2.85萬(-14.5%)。其主要地理市場為南韓(流量佔比 18.1%),並採用免費增值、需聯絡報價定價模式。依每月流量計算的主要競爭替代方案包括 OpenRouter(每月 1994.14萬次造訪),LiteLLM(每月 57.7萬次造訪),Portkey(每月 19.57萬次造訪)。
只要換個 base URL 就能切換幾百個模型,工程師的救贖!
開源自架超安心,不用再被綁死在單一供應商。
剛開始架設文件的坑稍微有點多。
以下短評基於實時網頁探查、定價機制與同類基準由 AI 綜合生成,用於呈現不同情境下的常見亮點與槽點,非實名真實用戶留言。
保留現有 OpenAI SDK 程式碼,只需修改 base URL,即可透過一個整合存取 40+ 家供應商的 250+ 個模型。
當某個供應商出錯、逾時或限流時,閘道可在同一請求內自動在另一家供應商上重試最多兩次,讓你的應用仍能得到回應。
追蹤請求、token、總支出與每 1K token 平均成本,並提供按模型、按供應商的細分、快取命中率與錯誤監控。
偵測提示注入、越獄嘗試、PII、卡號與金鑰,並可阻擋、去識別化或告警;在一個帶作用域的儀表板中管理所有供應商金鑰。
在自己的 Docker 或 Kubernetes 基礎設施上運行 AGPLv3 開源閘道,或交由廠商以帶 SLA 的託管雲運行。
LLM Gateway 解決的核心問題是供應商碎片化:各自獨立的 API 金鑰、各自獨立的控制台,以及一切換模型就會壞掉的程式碼。接入閘道後,單一請求可被路由到 40+ 家供應商的 250+ 個模型,切換模型往往只需改一個字串。它提供 AI SDK provider,並相容於任意 OpenAI SDK、cURL 或語言用戶端,支援 chat completions、responses 與圖像生成等端點。
除路由之外,該閘道還是一個控制平面。團隊可統一管理金鑰、為每個 API 金鑰或成員設定支出上限、在某個供應商出錯或限流時於同一請求內自動改試另一家供應商以達成容錯移轉,並透過護欄(如提示注入偵測與 PII 去識別化)在供應商看到之前攔截敏感資料。控制台涵蓋請求數、token 數、每 1K token 成本、延遲、錯誤率、快取命中率以及按模型/供應商的細分,企業版還提供稽核日誌與 SSO。
部署方式彈性:可由廠商以帶 SLA 的託管雲方式運行,也可透過 Docker 或 Kubernetes 自行託管在自己的基礎設施上,這對重視隱私的團隊尤其有吸引力。核心閘道在 AGPLv3 下開源,企業功能原始碼可用。公司表示已通過 SOC 2 Type II 合規認證,價格從自帶金鑰的免費層開始,按量付費額度在小額儲值上加價,企業方案為客製報價。
只呼叫一個端點,隨品質、價格與可用性變化自由切換模型或供應商,避免被單一廠商鎖定。
為金鑰與成員設定支出上限,按專案、模型與供應商拆分成本,在帳單到來前發現異常高消耗。
在請求抵達供應商之前去識別化 PII 與金鑰,並保留金鑰、角色與策略變更的稽核日誌以符合合規。
把開源閘道部署在自己的基礎設施上,讓提示與回應始終處於你的控制之下。
同一分類下同類 AI 工具的流量並排比較
| 排名 | AI 工具 | 每月造訪次數 | 月增幅 | 直接流量占比 | 價格 | 正面對決 |
|---|---|---|---|---|---|---|
| ● | LLM Gateway | 16.84萬 | -14.5% | 59% 直接流量 | 免費增值、需聯絡報價 | 目前產品 |
| 1 | OpenRouter 提供更廣泛的多家供應商模型路由與即時儲值,但缺乏自行架設(self-hosted)的部署彈性。 | 1994.14萬 | -6.2% | 60% 直接流量 | 付費 | 對比 OpenRouter |
| 2 | LiteLLM 提供強大的開源代理與 Python SDK 來進行多 LLM 路由,但需要自行架設基礎設施。 | 57.7萬 | +7.9% | 40% 直接流量 | 免費增值、需聯絡報價 | 對比 LiteLLM |
| 3 | Portkey 提供先進的企業級可觀測性、快取與安全防護欄,但相比純粹的路由,它更專注於生產環境監控。 | 19.57萬 | -9.4% | 62% 直接流量 | 免費增值、付費、需聯絡報價 | 對比 Portkey |
| 4 | OrcaRouter 具備自適應 LLM 路由與自動容災備份,但相比老牌聚合器,其生態系較小。 | 97.53萬 | -5.2% | 26% 直接流量 | 免費增值 | 對比 OrcaRouter |
| 5 | ZenMux 整合了對 100 多種頂尖模型的存取並內建聊天介面,但企業法規遵循(compliance)的整合較少。 | 44.44萬 | +16.7% | 52% 直接流量 | 免費增值、付費 | 對比 ZenMux |
| 6 | Helicone 專門提供深度的 LLM 可觀測性與快取代理功能,但複雜路由需要額外設定。 | 5.72萬 | -25.2% | 31% 直接流量 | 免費增值、免費試用、付費、需聯絡報價、免費 | 對比 Helicone |

免費 / 開源提供強大的開源代理與 Python SDK 來進行多 LLM 路由,但需要自行架設基礎設施。
具備自適應 LLM 路由與自動容災備份,但相比老牌聚合器,其生態系較小。
專項更強專門提供深度的 LLM 可觀測性與快取代理功能,但複雜路由需要額外設定。

免費 / 開源Open-source gateway focused on automatic request repair and model fallbacks, but with a smaller community ecosystem.
免費 / 開源Open-source gateway focused on automatic request repair and model fallbacks, but with a smaller community ecosystem.

免費 / 開源Combines an open-source AI gateway with developer portal lifecycle management, but is heavier to set up.