Arize AI 每月有 249,028 次造訪,月增率 +3.2%,定價模式為付費、需聯絡報價。LiteLLM 每月有 576,967 次造訪,成長率 +7.9%,定價模式為免費增值、需聯絡報價。
| 面向/指標 | ![]() | ![]() |
|---|---|---|
| 官方網域 | arize.com | litellm.ai |
| 定價模式 | 付費、需聯絡報價 | 免費增值、需聯絡報價 |
| 每月造訪次數 | 24.9萬 (249,028) | 57.7萬 (576,967) |
| 月流量變化量 | +7668 (+3.2%) | +4.25萬 (+7.9%) |
| 主要市場與市佔 | 🇺🇸 美國 (51.6%) | 🇺🇸 美國 (27.9%) |
| 每月直接造訪 | 10.78萬 | 22.9萬 |
| 使用者評分 | 4.6 | 4.8 |
| 支援平台 | 網站 | 網站 |

面向生產級 AI 的代理可觀測性、評估與持續改進平台
基於 OpenTelemetry 之上的 OpenInference 規範,蒐集代理與 LLM 呼叫的 span、trace 與工作階段,埋點可跨工具重複使用。
在 span、trace 與工作階段三個層級執行評估,對大量生產資料衡量檢索品質、工具呼叫與最終回覆的優劣。
內建於產品中的代理,可檢查链路、推斷根因,並給出供工程師上線前審閱的修復建議。
當需要讓軌跡資料留在自有基礎設施內時,可自行部署這套領先的開源追蹤與評估工具。

一個開源 AI 閘道,接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型,切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰,設定每月支出上限,清楚看到誰在用、花了多少。
在多個部署間分配流量,失敗時自動重試,某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本,並支援日誌與分析工具整合。

專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理,但開源自訂性較低。

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.

擅長實驗追蹤與模型登錄檔工作流程,但較少針對即時 LLM 生產可觀測性進行專門設計。
提供進階的企業級可觀測性與安全防護工具,但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。
免費 / 開源一個用來統一 LLM 供應商的開源替代方案,但中介軟體整合的生態系較不那麼豐富。

免費 / 開源Includes integrated guardrails and simulation tools, but is less mature for large-scale enterprise production telemetry monitoring.
免費 / 開源Includes integrated guardrails and simulation tools, but is less mature for large-scale enterprise production telemetry monitoring.

免費 / 開源具備強大的測試與提示詞評估工具,不過其監控介面較不針對大規模遙測串流。

免費 / 開源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
高度專注於提示詞管理與版本控制,而 Arize 則優先考慮端到端追蹤與機器學習可觀測性。