Groq は月間 3,987,936 訪問、前月比成長率 +10%、料金体系有料を記録しています。Rivet.dev は月間 21,359 訪問、成長率 -44.3%、料金体系フリーミアム、料金は要問い合わせを記録しています。
自社インフラ上で永続的 AI エージェントを実行・スケール
LPUとLPXによる超高速AI推論
学習ではなく推論に特化して設計され、極低遅延に最適化された独自アクセラレータ。
Llama、Mixtral、Gemmaなどの人気オープンモデルとWhisper音声モデルをホスト。
一般的なOpenAI形式のリクエストと広く互換性があり、素早く統合できます。
Whisperによる自動音声認識とテキスト読み上げを備え、音声アプリに活用できます。
自社インフラ上で永続的 AI エージェントを実行・スケール
すべての Actor が SQLite データベースとファイルシステムを持ち、エージェントの記憶と進捗が再起動やアイドル後も別途データベースなしで保持されます。
信頼できないコードや AI 生成コードを自社インフラ上で実行し、ネットワークアクセス、ファイルシステム権限、リソース上限を細かく制御できます。
ノード障害時は Actor が状態を保ったまま別ノードへ再スケジュールされ、多段処理もクラッシュ後に自動再生されるため、チェックポイント機構の自作は不要です。
HTTP で Actor を直接指定したり WebSocket を維持でき、React SDK でコンポーネントを Actor の状態に購読させリアルタイムに更新できます。
特化型DeepSeek-V4 と R1 を中核とし、極めて低いトークンコストで提供される高効率なオープンウェイト／ホスト型推論 AI。
特化型Proprietary frontier models with powerful reasoning and multimodal features, but lacking open-weight model hosting and custom inference speeds.
特化型Proprietary frontier models with powerful reasoning and multimodal features, but lacking open-weight model hosting and custom inference speeds.
特化型Gemini モデルでマルチモーダルアプリを構築するための、Google の高速プロトタイピング IDE 兼デベロッパー API ワークベンチ。
特化型Gemini モデルでマルチモーダルアプリを構築するための、Google の高速プロトタイピング IDE 兼デベロッパー API ワークベンチ。
数百のモデルを束ねる統合APIゲートウェイですが、ハードウェアの直接ホストではなくルーターとして機能します。
オープンソースモデルの推論向けに優れたクラウドプラットフォームで、充実したファインチューニング対応を提供しますが、生速度はやや劣ります。
Groqに匹敵する超高速のトークン生成速度を誇るウェハースケールハードウェアクラウドですが、モデルのラインナップはより特化型です。
オープンモデル向けの高スループットなサーバーレス推論で、優れた速度とファインチューニング機能、幅広いAPI互換性を備えています。
何百ものオープンウェイトモデルをホストする低コストなサーバーレス推論クラウドですが、LPUのような専用カスタムハードウェアアクセラレータはありません。
無料・オープンソースMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
無料・オープンソースMastra is an open-source TypeScript framework for building, deploying, and observing AI agents and workflows. It gives JavaScript developers typed agents, durable workflows, memory, MCP tool support, and built-in observability so prototypes can scale into production.
サーバーレスモデルAPIやGPUインスタンスを提供しますが、超低遅延のテキスト生成へのこだわりはやや薄いAIクラウドプラットフォームです。
無料・オープンソースDecentralized serverless inference platform hosting open-source models, offering lower costs but less enterprise reliability guarantees.
