무료 / 오픈소스오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요

GPU 클러스터 관리와 모델 운영을 하나로 묶은 AI 인프라 플랫폼

프로덕션 AI를 위한 에이전트 관측성, 평가 및 지속적 개선 플랫폼
OpenTelemetry 기반 OpenInference 규약으로 에이전트와 LLM 호출의 span·trace·세션을 수집해 계측을 이식 가능하게 유지합니다.
span·trace·세션 수준에서 평가를 실행해 검색 품질, 도구 사용, 최종 답변을 대규모 프로덕션 데이터로 채점합니다.
제품 내 에이전트가 트레이스를 조사해 근본 원인을 추정하고 배포 전 검토할 수 있는 수정안을 제시합니다.
트레이스 데이터를 자사 인프라에 두고 싶을 때 검증된 오픈소스 추적·평가 도구를 셀프호스팅할 수 있습니다.

GPU 클러스터 관리와 모델 운영을 하나로 묶은 AI 인프라 플랫폼
온프레미스, 클라우드, 하이브리드 GPU 클러스터를 연결·통제하고 멀티테넌시, RBAC, 쿼터, GPU 분할, 우선순위 스케줄링을 제공합니다.
통합 개발 환경과 실험 추적, 데이터 통합, 대시보드, 파이프라인, 모델 리포지토리, CI/CD 연동을 갖춘 개발 워크벤치입니다.
기존 클러스터에 LLM을 배포하며 네트워크·인증·보안을 처리해 적은 수작업으로 안전한 모델 API를 공개합니다.
컴퓨트 시간, 스토리지, API 호출 단위로 비용을 추적해 실제 사용한 프로젝트와 부서에 지출을 배분합니다.
무료 / 오픈소스오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요
무료 / 오픈소스ModelScope (魔搭社区) is an open-source AI community and model service platform that hosts thousands of pretrained models, datasets, and ready-to-run demos, backed by Alibaba Cloud infrastructure.
무료 / 오픈소스ModelScope (魔搭社区) is an open-source AI community and model service platform that hosts thousands of pretrained models, datasets, and ready-to-run demos, backed by Alibaba Cloud infrastructure.

SuperAnnotate is an AI data platform that combines a collaborative multimodal annotation editor, an expert data-operations team, and the orchestration layer needed to move curated datasets into training, evaluation, and production pipelines. It is aimed at teams building computer vision, NLP, audio, and generative AI systems who need reliable, high-quality ground truth at scale.
SuperAnnotate is an AI data platform that combines a collaborative multimodal annotation editor, an expert data-operations team, and the orchestration layer needed to move curated datasets into training, evaluation, and production pipelines. It is aimed at teams building computer vision, NLP, audio, and generative AI systems who need reliable, high-quality ground truth at scale.

하나의 연결 환경에서 AI 모델과 에이전트를 추적·평가·배포하세요.

무료 / 오픈소스Label Studio is an open-source data labeling and AI evaluation platform from HumanSignal. It handles images, video, audio, text, documents, time series and agent traces in one flexible workspace, and connects to your ML pipeline through an API, Python SDK and webhooks.
무료 / 오픈소스Label Studio is an open-source data labeling and AI evaluation platform from HumanSignal. It handles images, video, audio, text, documents, time series and agent traces in one flexible workspace, and connects to your ML pipeline through an API, Python SDK and webhooks.

무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링
무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링

무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.

프롬프트 관리 및 버전 제어에 크게 집중하는 반면, Arize는 엔드투엔드 트레이싱과 ML 관측성을 우선시합니다.
프롬프트 관리 및 버전 제어에 크게 집중하는 반면, Arize는 엔드투엔드 트레이싱과 ML 관측성을 우선시합니다.

DeepEval을 통한 포괄적인 LLM 평가 및 단위 테스트를 제공하지만, Arize의 깊이 있는 프로덕션 모니터링 인프라는 부족합니다.
DeepEval을 통한 포괄적인 LLM 평가 및 단위 테스트를 제공하지만, Arize의 깊이 있는 프로덕션 모니터링 인프라는 부족합니다.

무료 / 오픈소스AI 플랫폼 팀을 위한 에이전트 관측성, 평가, 거버넌스
특화 강점Stronger focus on compliance enforcement and AI governance, but less specialized for deep developer tracing workflows.

무료 / 오픈소스AI 에이전트의 실패를 찾아내고 그대로 고치는 오픈소스 관측성