
실험 추적 및 모델 레지스트리 워크플로우에 뛰어나지만, 실시간 LLM 프로덕션 관측성에 아주 특화되어 있지는 않습니다.
실험 추적 및 모델 레지스트리 워크플로우에 뛰어나지만, 실시간 LLM 프로덕션 관측성에 아주 특화되어 있지는 않습니다.

AI 플랫폼 팀을 위한 에이전트 관측성, 평가, 거버넌스
| 항목 / 지표 | ![]() | ![]() |
|---|---|---|
| 공식 도메인 | arize.com | langwatch.ai |
| 가격 모델 | 유료, 가격 문의 | 가격 문의 |
| 월간 방문 수 | 24.9만 (249,028) | 5.21만 (52,098) |
| 전월 대비 트래픽 변화량 | +7.67천 (+3.2%) | +2.2만 (+73%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (51.6%) | 🇺🇸 미국 (46.7%) |
| 월 직접 방문 수 | 10.78만 | 2.9만 |
| 사용자 평점 | 4.6 | 4.6 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |

프로덕션 AI를 위한 에이전트 관측성, 평가 및 지속적 개선 플랫폼
OpenTelemetry 기반 OpenInference 규약으로 에이전트와 LLM 호출의 span·trace·세션을 수집해 계측을 이식 가능하게 유지합니다.
span·trace·세션 수준에서 평가를 실행해 검색 품질, 도구 사용, 최종 답변을 대규모 프로덕션 데이터로 채점합니다.
제품 내 에이전트가 트레이스를 조사해 근본 원인을 추정하고 배포 전 검토할 수 있는 수정안을 제시합니다.
트레이스 데이터를 자사 인프라에 두고 싶을 때 검증된 오픈소스 추적·평가 도구를 셀프호스팅할 수 있습니다.

AI 플랫폼 팀을 위한 에이전트 관측성, 평가, 거버넌스
GenAI 스펙을 완전 지원해 LangChain, LangGraph, CrewAI, Mastra, Pydantic AI, Vercel AI SDK와 모든 OTel 호환 스택의 트레이스가 같은 화면에 모이고 스팬별 토큰·비용·캐시를 기록합니다.
LLM 심사자, 사용자 코드, 워크플로로 단일 출력이나 전체 대화를 채점하고 노트북 또는 UI에서 평가를 실행하며 프로덕션 트래픽도 실시간 평가합니다.
텍스트와 음성 시뮬레이션 사용자가 현실적 시나리오로 턴마다 에이전트를 시험하며 로컬과 CI에서 실행됩니다. 도구, 스킬, MCP 서버는 추적되고 모킹할 수 있습니다.
자체 키로 OpenAI, Anthropic, Google, Bedrock, Mistral 등을 하나의 엔드포인트로 라우팅하고 개인·팀·고객별 예산을 적용하며 오버헤드는 약 11마이크로초입니다.

실험 추적 및 모델 레지스트리 워크플로우에 뛰어나지만, 실시간 LLM 프로덕션 관측성에 아주 특화되어 있지는 않습니다.
실험 추적 및 모델 레지스트리 워크플로우에 뛰어나지만, 실시간 LLM 프로덕션 관측성에 아주 특화되어 있지는 않습니다.
무료 / 오픈소스프로덕션 LLM 앱을 위한 AI 게이트웨이, 관측성, 가드레일

무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링
무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링

무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
무료 / 오픈소스AI 엔지니어링 팀을 위한 협업 레이어

무료 / 오픈소스조직 전체의 LLM 평가, 관측성, 레드팀 테스트 기준을 통일
무료 / 오픈소스조직 전체의 LLM 평가, 관측성, 레드팀 테스트 기준을 통일
무료 / 오픈소스안정적인 AI 앱을 위한 오픈소스 LLM 관측성과 AI 게이트웨이
무료 / 오픈소스Openlayer is a platform that tests AI systems before release, monitors them in production, and enforces policy and compliance requirements across every model and agent your company runs.

무료 / 오픈소스AI 에이전트의 실패를 찾아내고 그대로 고치는 오픈소스 관측성

엔터프라이즈 거버넌스 및 모델 설명 가능성 기능을 제공하지만, 순수 LLM 트레이싱을 위한 초기 설정 곡선이 더 가파릅니다.
엔터프라이즈 거버넌스 및 모델 설명 가능성 기능을 제공하지만, 순수 LLM 트레이싱을 위한 초기 설정 곡선이 더 가파릅니다.