無料・オープンソースオープン AI モデルをローカルでもクラウドでも実行・構築

GPU クラスタ管理とモデル運用を一本化する AI インフラストラクチャ基盤

本番AIのためのエージェント可観測性・評価・継続的改善プラットフォーム
OpenTelemetry 上の OpenInference 規約を用いてエージェントと LLM 呼び出しの span・trace・セッションを取得し、計装を移植可能に保ちます。
span・trace・セッションの各レベルで評価を実行し、検索品質やツール利用、最終回答を大規模な本番データで採点します。
製品内エージェントがトレースを調査して根本原因を推定し、出荷前にレビューできる修正案を提示します。
トレースデータを自社インフラ内に保持したい場合に、定評あるオープンソースのトレース・評価ツールをセルフホストできます。

GPU クラスタ管理とモデル運用を一本化する AI インフラストラクチャ基盤
オンプレミス、クラウド、ハイブリッドの GPU クラスタを接続・統制し、マルチテナンシー、RBAC、クォータ、GPU 分割、優先度スケジューリングを提供します。
統合開発環境に加え、実験トラッキング、データ連携、ダッシュボード、パイプライン、モデルリポジトリ、CI/CD 連携を備えた開発ワークベンチです。
既存クラスタ上に LLM を配備し、ネットワーク・認証・セキュリティを処理するため、少ない手作業で安全なモデル API を公開できます。
計算時間、ストレージ、API 呼び出し単位でコストを追跡し、実際に消費したプロジェクトや部門へ配賦できます。
無料・オープンソースオープン AI モデルをローカルでもクラウドでも実行・構築
無料・オープンソースModelScope (魔搭社区) is an open-source AI community and model service platform that hosts thousands of pretrained models, datasets, and ready-to-run demos, backed by Alibaba Cloud infrastructure.
無料・オープンソースModelScope (魔搭社区) is an open-source AI community and model service platform that hosts thousands of pretrained models, datasets, and ready-to-run demos, backed by Alibaba Cloud infrastructure.

SuperAnnotate is an AI data platform that combines a collaborative multimodal annotation editor, an expert data-operations team, and the orchestration layer needed to move curated datasets into training, evaluation, and production pipelines. It is aimed at teams building computer vision, NLP, audio, and generative AI systems who need reliable, high-quality ground truth at scale.
SuperAnnotate is an AI data platform that combines a collaborative multimodal annotation editor, an expert data-operations team, and the orchestration layer needed to move curated datasets into training, evaluation, and production pipelines. It is aimed at teams building computer vision, NLP, audio, and generative AI systems who need reliable, high-quality ground truth at scale.

一つの接続環境で AI モデルとエージェントを追跡・評価・出荷。

無料・オープンソースLabel Studio is an open-source data labeling and AI evaluation platform from HumanSignal. It handles images, video, audio, text, documents, time series and agent traces in one flexible workspace, and connects to your ML pipeline through an API, Python SDK and webhooks.
無料・オープンソースLabel Studio is an open-source data labeling and AI evaluation platform from HumanSignal. It handles images, video, audio, text, documents, time series and agent traces in one flexible workspace, and connects to your ML pipeline through an API, Python SDK and webhooks.

無料・オープンソース自己改善するAIエージェントの構築・シミュレーション・評価・監視
無料・オープンソース自己改善するAIエージェントの構築・シミュレーション・評価・監視

無料・オープンソースMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
無料・オープンソースMaxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.

プロンプト管理とバージョン管理に深く焦点を当てている一方、ArizeはエンドツーエンドのトレースとML観測性を優先しています。
プロンプト管理とバージョン管理に深く焦点を当てている一方、ArizeはエンドツーエンドのトレースとML観測性を優先しています。

DeepEvalによる包括的なLLM評価と単体テストを提供しますが、Arizeのような高度な本番監視インフラが不足しています。
DeepEvalによる包括的なLLM評価と単体テストを提供しますが、Arizeのような高度な本番監視インフラが不足しています。

無料・オープンソースAIプラットフォームチームのためのエージェント可観測性・評価・ガバナンス
特化型Stronger focus on compliance enforcement and AI governance, but less specialized for deep developer tracing workflows.

無料・オープンソースAI エージェントの障害を見つけ、そのまま修正するオープンソース可観測性