即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。

Relyable is a simulation and monitoring platform for AI voice agents. It connects to voice stacks like Vapi, Retell and ElevenLabs so teams can generate hundreds of realistic test conversations, grade every call against a custom rubric, and monitor live production traffic with threshold-based alerts.
| 項目 / 指標 | ![]() | ![]() |
|---|---|---|
| 公式ドメイン | litellm.ai | relyable.ai |
| 料金モデル | フリーミアム、料金は要問い合わせ | フリーミアム、有料 |
| 月間訪問数 | 57.7万 (576,967) | 3451 (3,451) |
| 前月比トラフィック増減 | +4.25万 (+7.9%) | -2882 (-45.5%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (27.9%) | 🇺🇸 アメリカ合衆国 (72.6%) |
| 月間ダイレクト訪問数 | 22.9万 | 1348 |
| ユーザー評価 | 4.8 | 4.7 |
| 対応プラットフォーム | ウェブサイト | ウェブサイト |

100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
1 つのリクエスト形式で 100 以上のプロバイダー、1,800 以上のモデルを呼び出し、アプリのコードを変えずにモデルを切り替えられます。
チーム、プロジェクト、アプリごとにスコープ付きキーを発行し、月次支出上限を設定して、誰がどれだけ使っているかを可視化します。
複数のデプロイにトラフィックを分散し、失敗時にリトライし、モデルやプロバイダーの障害時には自動で別の選択肢へ切り替えます。
リクエスト数、トークン数、モデル別コストをダッシュボードで確認でき、ログや分析ツールとの連携にも対応します。

Relyable is a simulation and monitoring platform for AI voice agents. It connects to voice stacks like Vapi, Retell and ElevenLabs so teams can generate hundreds of realistic test conversations, grade every call against a custom rubric, and monitor live production traffic with threshold-based alerts.
Auto-generate test cases from your system prompt or define your own, then run hundreds of parallel simulated conversations with presets for accent, mood and goal.
Score every call against weighted, customisable criteria such as task completion, policy accuracy, sentiment, interruption handling and latency, with seven-day trend tracking.
Every production call is silently logged and scored in real time, with alerts routed to Slack, email, PagerDuty, Opsgenie, Linear or webhooks when something drifts.
Connect Vapi, Retell or ElevenLabs agents in under five minutes using an API key, or route custom agents through the provided number and API.
即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。

特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
高度なエンタープライズ向け可観測性およびガードレールツールを提供しますが、LiteLLMのような軽量なセルフホスト型プロキシのシンプルさが欠けています。

管理されたマルチプロバイダーAIルーティングとコスト追跡を提供しますが、LiteLLMが持つネイティブなオープンソースの柔軟性に欠けます。
無料・オープンソースLLMプロバイダーを統合するためのオープンソースの代替手段ですが、ミドルウェア統合のエコシステムはやや小規模です。

無料・オープンソース自己改善するAIエージェントの構築・シミュレーション・評価・監視
無料・オープンソース自己改善するAIエージェントの構築・シミュレーション・評価・監視

無料・オープンソースMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
無料・オープンソースMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.

無料・オープンソースOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
組織全体でLLM評価・可観測性・レッドチーミングの基準を統一