Arize AI は月間 249,028 訪問、前月比成長率 +3.2%、料金体系有料、料金は要問い合わせを記録しています。LiteLLM は月間 576,967 訪問、成長率 +7.9%、料金体系フリーミアム、料金は要問い合わせを記録しています。
本番AIのためのエージェント可観測性・評価・継続的改善プラットフォーム
100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
| 項目 / 指標 | | |
|---|---|---|
| 公式ドメイン | arize.com | litellm.ai |
| 料金モデル | 有料、料金は要問い合わせ | フリーミアム、料金は要問い合わせ |
| 月間訪問数 | 24.9万 (249,028) | 57.7万 (576,967) |
| 前月比トラフィック増減 | +7668 (+3.2%) |
| +4.25万 (+7.9%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (51.6%) | 🇺🇸 アメリカ合衆国 (27.9%) |
|---|
| 月間ダイレクト訪問数 | 10.78万 | 22.9万 |
|---|
| ユーザー評価 | 4.6 | 4.8 |
|---|
| 対応プラットフォーム | ウェブサイト | ウェブサイト |
|---|
本番AIのためのエージェント可観測性・評価・継続的改善プラットフォーム
OpenTelemetry 上の OpenInference 規約を用いてエージェントと LLM 呼び出しの span・trace・セッションを取得し、計装を移植可能に保ちます。
span・trace・セッションの各レベルで評価を実行し、検索品質やツール利用、最終回答を大規模な本番データで採点します。
製品内エージェントがトレースを調査して根本原因を推定し、出荷前にレビューできる修正案を提示します。
トレースデータを自社インフラ内に保持したい場合に、定評あるオープンソースのトレース・評価ツールをセルフホストできます。
100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
1 つのリクエスト形式で 100 以上のプロバイダー、1,800 以上のモデルを呼び出し、アプリのコードを変えずにモデルを切り替えられます。
チーム、プロジェクト、アプリごとにスコープ付きキーを発行し、月次支出上限を設定して、誰がどれだけ使っているかを可視化します。
複数のデプロイにトラフィックを分散し、失敗時にリトライし、モデルやプロバイダーの障害時には自動で別の選択肢へ切り替えます。
リクエスト数、トークン数、モデル別コストをダッシュボードで確認でき、ログや分析ツールとの連携にも対応します。
即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
実験追跡やモデルレジストリのワークフローに優れていますが、リアルタイムのLLM本番環境の観測性には特化していません。
高度なエンタープライズ向け可観測性およびガードレールツールを提供しますが、LiteLLMのような軽量なセルフホスト型プロキシのシンプルさが欠けています。
管理されたマルチプロバイダーAIルーティングとコスト追跡を提供しますが、LiteLLMが持つネイティブなオープンソースの柔軟性に欠けます。
無料・オープンソースLLMプロバイダーを統合するためのオープンソースの代替手段ですが、ミドルウェア統合のエコシステムはやや小規模です。
無料・オープンソースIncludes integrated guardrails and simulation tools, but is less mature for large-scale enterprise production telemetry monitoring.
無料・オープンソース強力なテストおよびプロンプト評価ツールを備えていますが、監視インターフェースは大規模なテレメトリーストリーム向けではありません。
無料・オープンソースOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
プロンプト管理とバージョン管理に深く焦点を当てている一方、ArizeはエンドツーエンドのトレースとML観測性を優先しています。
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
実験追跡やモデルレジストリのワークフローに優れていますが、リアルタイムのLLM本番環境の観測性には特化していません。
無料・オープンソースIncludes integrated guardrails and simulation tools, but is less mature for large-scale enterprise production telemetry monitoring.
プロンプト管理とバージョン管理に深く焦点を当てている一方、ArizeはエンドツーエンドのトレースとML観測性を優先しています。
