# GPUPerHour vs LiteLLM GPUPerHour 每月有 28,718 次造訪，月增率 +25.3%，定價模式為免費。LiteLLM 每月有 576,967 次造訪，成長率 +7.9%，定價模式為免費增值、需聯絡報價。 | 指標 | [GPUPerHour](https://openaitools.app/tw/tool/gpuperhour) | [LiteLLM](https://openaitools.app/tw/tool/litellm) | | :--- | :--- | :--- | | 網站網址 | https://gpuperhour.com | https://litellm.ai | | 分類 | AI 開發者工具, AI 工具目錄 | AI API, Large Language Models (LLMs), AI 開發者工具, 開源 AI 模型 | | 定價模式 | 免費 | 免費增值、需聯絡報價 | | 每月造訪次數 | 28,718 | 576,967 | | 月成長率 | +25.3% | +7.9% | | 主要市場 | 美國 | 美國 | | 直接造訪 | 11,398 | 228,967 | | 評論分數 | 4.4 | 4.8 | | 收藏數 | 4 | 5 | | 支援平台 | 網站 | 網站 | ## GPUPerHour GPUPerHour 解決的是一個範圍很窄卻很昂貴的問題：雲端 GPU 價格散落在數十家供應商的控制台中，計價單位不同、庫存狀態也不同。網站定期抓取 31 家雲端 GPU 供應商的公開價格與庫存端點，把每筆報價統一換算為每 GPU 每小時的價格（多卡執行個體總價除以卡數），並標註計價類型與安全層級。當前價格彙總刻意只採用最近一次重新整理後約 15 分鐘內觀測到的安全隨需執行個體報價，排除競價、預留與點對點市場列表，因為它們的價格無法直接比較。 最終結果是一張涵蓋 H100 SXM5 與 PCIe、H200、B200、B300、A100 80GB 與 40GB、L40S、RTX PRO 6000、RTX 5090、RTX 4090 與 RTX A6000 的即時表格，同時列出供應商、30 天歷史目錄均價以及有庫存的供應商數量。附 CSV 下載的每日價格指數讓你追蹤價格走勢，而購買指南與硬體解讀則涵蓋如何同規格比較 GPU、如何依 VRAM 需求選型、如何把儲存與對外流量費用計入總帳，以及如何按小時租用。網站也指向配套主控台 DeployGPU，可在支援的供應商上一站式部署。 頁面也明確說明了關鍵限制：報價數量描述的是組態數量，而非可預訂的實體 GPU 數量，且庫存在下單前隨時可能變化。價格以每 GPU 每小時計，但供應商按整機執行個體計費，儲存、網路傳輸與承諾期限同樣影響最終帳單。GPUPerHour 是研究與比價層，本身並不提供代管服務。 **價格與方案:** 作為價格比較與研究資源可免費使用；GPUPerHour 本身不出售 GPU 算力。顯示的價格為第三方供應商安全隨需執行個體的每 GPU 每小時費率，並提供配套服務 DeployGPU 於支援的供應商上部署。 - **31 家供應商即時價格表:** 每筆收錄報價都統一換算為每 GPU 每小時價格，並標註供應商、計價類型與安全層級。 - **最低價彙總:** 市場快照顯示各熱門 GPU 型號（從 H100、H200 到 RTX 4090）當前最低的安全隨需價格。 - **每日價格指數與 CSV:** 歷史目錄均價與可下載的每日資料，協助你了解某款 GPU 近 30 天的價格變化。 - **購買指南與解讀:** 實用文章涵蓋同規格 GPU 對比、依 VRAM 選型、把儲存與對外流量算進總帳，以及按小時租用。 - **DeployGPU 主控台:** 選定報價後，可透過關聯主控台在支援的供應商上集中部署。 **優勢:** 把 31 家供應商統一為可比較的每 GPU 每小時價格; 明確公布方法論，並排除無法比較的競價與點對點報價; 免費使用，提供每日歷史資料與 CSV 下載; 購買指南關注完整帳單，而不只是標稱單價 **限制:** 僅涵蓋價格與庫存端點可公開抓取的供應商; 當前價格視圖刻意排除競價與預留算力，而它們往往更便宜; 它是比價資源，最終仍須到供應商處註冊帳號並開通執行個體 [Profile (Markdown)](https://openaitools.app/tw/tool/gpuperhour.md) ## LiteLLM LiteLLM 是專為消除 LLM 應用廠商鎖定而設計的開源 AI 閘道與 Python SDK。透過該 SDK，你可以用同一套 OpenAI 風格的請求格式呼叫 OpenAI、Anthropic、Google Vertex AI、Bedrock、Mistral、Azure 及數十家其他供應商的模型，因此切換模型只需改設定，無須重寫程式碼。同一專案還提供 AI 閘道（常被稱為代理），把這種抽象變成全組織共享的服務。 閘道是多數平台團隊真正受益的地方。它為團隊、專案或應用簽發限定範圍的虛擬金鑰，按金鑰追蹤預算內的支出，施加速率限制（TPM 與 RPM），並提供請求量、Token 用量與各模型成本的可視化面板。路由能力包括跨部署負載平衡、供應商故障時自動回退、重試與基於預算的重路由，並配有 PII 去識別化、提示注入偵測與機密外洩偵測等護欄。 該專案是真正的開源專案，程式碼託管於 GitHub（BerriAI/litellm），社群非常活躍。企業版功能增加 SSO、稽核日誌，並支援透過同一閘道接入代理程式與 MCP 伺服器。值得一提的是，LiteLLM 對新模型提供「零日支援」，新模型一發布即可接入；同時也能把自託管、微調與內部模型放在同一金鑰之後統一服務。官網列出的客戶包括 NVIDIA、Netflix、Okta、Lemonade 與 AT&T。 **價格與方案:** 免費增值且開源。自託管的 LiteLLM 閘道與 SDK 在開源授權下免費使用，並可透過免費額度快速上手。含 SSO、稽核日誌、SLA 與進階支援的企業方案需聯絡業務取得報價。 - **面向 100+ LLM 的 OpenAI 相容 API:** 用一套請求格式呼叫 100 多個供應商與 1,800 多個模型，切換模型無須修改應用程式碼。 - **虛擬金鑰、團隊與預算:** 為團隊、專案或應用簽發限定範圍的金鑰，設定每月支出上限，清楚看到誰在用、花了多少。 - **路由、負載平衡與回退:** 在多個部署間分配流量，失敗時自動重試，某個模型或供應商故障時回退到備選。 - **可觀測性與成本追蹤:** 用面板查看請求量、Token 數與各模型成本，並支援日誌與分析工具整合。 - **護欄與策略控制:** 接入 PII 去識別化、提示注入偵測與機密外洩偵測護欄，把策略集中管理而非散落在各應用中。 **優勢:** 真正的開源專案，GitHub 社群龐大且支援自託管; 供應商覆蓋極廣，並提供 OpenAI 相容介面; 企業級管控：虛擬金鑰、預算、速率限制與稽核日誌; 新模型零日支援，供應商故障時可輕鬆回退 **限制:** 自託管意味著部署、升級與可用性都由你自己負責; 免費開源版與企業版在功能深度上存在差異; 設定項繁多，小型專案可能覺得過於複雜 [Profile (Markdown)](https://openaitools.app/tw/tool/litellm.md) ## 常見問題 ### GPUPerHour 與 LiteLLM 的每月流量相比如何？ GPUPerHour 每月有 28,718 次造訪，而 LiteLLM 有 576,967。流量估算反映受眾規模，並非產品品質。 ### 兩者的成長率相比如何？ GPUPerHour 的月增率為 +25.3%；LiteLLM 為 +7.9%。 ### 價格相比如何？ GPUPerHour：免費。作為價格比較與研究資源可免費使用；GPUPerHour 本身不出售 GPU 算力。顯示的價格為第三方供應商安全隨需執行個體的每 GPU 每小時費率，並提供配套服務 DeployGPU 於支援的供應商上部署。 LiteLLM：免費增值、需聯絡報價。免費增值且開源。自託管的 LiteLLM 閘道與 SDK 在開源授權下免費使用，並可透過免費額度快速上手。含 SSO、稽核日誌、SLA 與進階支援的企業方案需聯絡業務取得報價。 ## 替代方案 | # | 工具名稱 | 每月造訪次數 | 月成長率 | 定價模式 | Summary | Profile (Markdown) | | :--- | :--- | :--- | :--- | :--- | :--- | :--- | | 1 | [OpenRouter](https://openaitools.app/tw/tool/openrouter-ai) | 19,941,437 | -6.2% | 付費 | 提供龐大的託管模型目錄並可即時存取，但需要信任第三方平台而非自行架設。 | [.md](https://openaitools.app/tw/tool/openrouter-ai.md) | | 2 | [Together AI](https://openaitools.app/tw/tool/together-ai) | 1,645,930 | +64.9% | 免費增值、付費 | Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers. | [.md](https://openaitools.app/tw/tool/together-ai.md) | | 3 | [OrcaRouter](https://openaitools.app/tw/tool/orcarouter) | 975,300 | -5.2% | 免費增值 | 透過 API 閘道器提供自動模型備援切換與預算管理，但開源自訂性較低。 | [.md](https://openaitools.app/tw/tool/orcarouter.md) | | 4 | [ZenMux](https://openaitools.app/tw/tool/zenmux) | 444,394 | +16.7% | 免費增值、付費 | Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support. | [.md](https://openaitools.app/tw/tool/zenmux.md) | | 5 | [mcp.so](https://openaitools.app/tw/tool/mcp-server) | 286,704 | -3% | 免費 | 探索並分享面向 AI 代理與程式開發工具的 Model Context Protocol 伺服器 | [.md](https://openaitools.app/tw/tool/mcp-server.md) | | 6 | [Stork](https://openaitools.app/tw/tool/stork) | 201,544 | +2.3% | 免費 | AI 工具目錄、深度評測與每日 AI 新聞 | [.md](https://openaitools.app/tw/tool/stork.md) | | 7 | [Models.dev](https://openaitools.app/tw/tool/models-dev) | 200,451 | -3.9% | 免費 | 開源 AI 模型資料庫，價格與能力一目了然 | [.md](https://openaitools.app/tw/tool/models-dev.md) | | 8 | [Portkey](https://openaitools.app/tw/tool/portkey-ai) | 195,650 | -9.4% | 免費增值、付費、需聯絡報價 | 提供進階的企業級可觀測性與安全防護工具，但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。 | [.md](https://openaitools.app/tw/tool/portkey-ai.md) | | 9 | [Eden AI](https://openaitools.app/tw/tool/eden-ai) | 173,828 | +6.5% | 付費、需聯絡報價 | 提供受管的多家供應商 AI 路由與成本追蹤，但缺乏 LiteLLM 原生的開源靈活性。 | [.md](https://openaitools.app/tw/tool/eden-ai.md) | | 10 | [LLM Gateway](https://openaitools.app/tw/tool/llm-gateway) | 168,426 | -14.5% | 免費增值、需聯絡報價 | 一個用來統一 LLM 供應商的開源替代方案，但中介軟體整合的生態系較不那麼豐富。 | [.md](https://openaitools.app/tw/tool/llm-gateway.md) | --- 來源：https://openaitools.app/tw/compare/gpuperhour-vs-litellm More Markdown: [分類](https://openaitools.app/tw/categories.md) · [流量排名](https://openaitools.app/tw/rankings.md) · [llms.txt](https://openaitools.app/tw/llms.txt)