Caveman は月間 171,826 訪問、前月比成長率 -15.5%、料金体系フリーミアム、料金は要問い合わせを記録しています。LiteLLM は月間 576,967 訪問、成長率 +7.9%、料金体系フリーミアム、料金は要問い合わせを記録しています。
可逆なコンテキスト圧縮とスマートなモデルルーティングでAIエージェントのトークンコストを削減
100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
| 項目 / 指標 | | |
|---|---|---|
| 公式ドメイン | caveman.so | litellm.ai |
| 料金モデル | フリーミアム、料金は要問い合わせ | フリーミアム、料金は要問い合わせ |
| 月間訪問数 | 17.18万 (171,826) | 57.7万 (576,967) |
| 前月比トラフィック増減 | -3.16万 (-15.5%) | +4.25万 (+7.9%) |
| 主要市場とシェア | 🇺🇸 アメリカ合衆国 (30%) | 🇺🇸 アメリカ合衆国 (27.9%) |
| 月間ダイレクト訪問数 | 6.42万 | 22.9万 |
| ユーザー評価 | 4.7 | 4.8 |
| 対応プラットフォーム | ウェブサイト | ウェブサイト |
可逆なコンテキスト圧縮とスマートなモデルルーティングでAIエージェントのトークンコストを削減
100 以上の LLM プロバイダーをつなぐオープンソース AI ゲートウェイ
1 つのリクエスト形式で 100 以上のプロバイダー、1,800 以上のモデルを呼び出し、アプリのコードを変えずにモデルを切り替えられます。
チーム、プロジェクト、アプリごとにスコープ付きキーを発行し、月次支出上限を設定して、誰がどれだけ使っているかを可視化します。
複数のデプロイにトラフィックを分散し、失敗時にリトライし、モデルやプロバイダーの障害時には自動で別の選択肢へ切り替えます。
リクエスト数、トークン数、モデル別コストをダッシュボードで確認でき、ログや分析ツールとの連携にも対応します。
即時アクセス可能な膨大なホスト型モデルカタログを提供しますが、セルフホスティングではなくサードパーティプラットフォームへの信頼が必要です。
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
特化型Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
無料・オープンソースRuns parallel CLI coding agents in isolated worktrees, lacking dedicated context compression and cost routing tools.
無料・オープンソースRuns parallel CLI coding agents in isolated worktrees, lacking dedicated context compression and cost routing tools.
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
APIゲートウェイを通じた自動モデルフェイルオーバーと予算ガバナンスを提供しますが、オープンソースとしてのカスタマイズ性はやや劣ります。
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
特化型コーディングエージェント向けのエンタープライズコンテキストエンジンを提供しますが、オープンソースのトークン圧縮やカスタムモデルルーティングはありません。
特化型コーディングエージェント向けのエンタープライズコンテキストエンジンを提供しますが、オープンソースのトークン圧縮やカスタムモデルルーティングはありません。
高度なエンタープライズ向け可観測性およびガードレールツールを提供しますが、LiteLLMのような軽量なセルフホスト型プロキシのシンプルさが欠けています。
管理されたマルチプロバイダーAIルーティングとコスト追跡を提供しますが、LiteLLMが持つネイティブなオープンソースの柔軟性に欠けます。
無料・オープンソースLLMプロバイダーを統合するためのオープンソースの代替手段ですが、ミドルウェア統合のエコシステムはやや小規模です。
無料・オープンソースProvides an open-source Python framework for building model-agnostic agents without built-in context compression.
権限を認識するコンテキストグラフを構築し、モデルにタスクをルーティングしますが、特にエンタープライズエージェントのワークフローを対象としています。
権限を認識するコンテキストグラフを構築し、モデルにタスクをルーティングしますが、特にエンタープライズエージェントのワークフローを対象としています。
特化型企業向けのLLMゲートウェイや監視ツールを提供するが、ローカルのコンテキスト圧縮やエージェントのルーティングへの注力は控えめである。
