특화 강점Cloud API gateway providing instant access to thousands of models, trading local hardware privacy for cloud compute.
특화 강점Cloud API gateway providing instant access to thousands of models, trading local hardware privacy for cloud compute.

오픈소스 OpenTelemetry 네이티브 AI 에이전트 관측성 및 하네스 엔지니어링 플랫폼
| 항목 / 지표 | ![]() | |
|---|---|---|
| 공식 도메인 | ollama.com | openlit.io |
| 가격 모델 | Free, Freemium, Paid | 무료 |
| 월간 방문 수 | 942.2만 (9,421,973) | 6.03천 (6,028) |
| 전월 대비 트래픽 변화량 | +38.97만 (+4.3%) | -1.35천 (-18.3%) |
| 주요 시장 및 점유율 | 🇨🇳 중국 (15.9%) | 🇺🇸 미국 (53.6%) |
| 월 직접 방문 수 | 402.01만 | 2.38천 |
| 사용자 평점 | 4.8 | 4.7 |
| 지원 플랫폼 | app, open-source, website | 웹사이트 |
오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요
한 번 설치한 뒤 이름으로 오픈 가중치 모델을 받아오면 가중치, 양자화, 버전 관리까지 Ollama가 처리합니다.
내장 서버가 직관적인 REST API를 제공해 스크립트, 편집기, 에이전트가 최소한의 설정으로 로컬 모델을 호출할 수 있습니다.
노트북이 감당하기 어려운 체크포인트는 토큰 과금과 동시 실행 등급이 있는 호스팅 오픈 모델로 라우팅할 수 있습니다.
Llama, Qwen, DeepSeek, Gemma, Mistral, gpt-oss 같은 계열을 하나의 인터페이스에서 사용할 수 있습니다.

오픈소스 OpenTelemetry 네이티브 AI 에이전트 관측성 및 하네스 엔지니어링 플랫폼
모든 LLM 호출, 도구 호출, 검색, 에이전트 단계를 OpenTelemetry 트레이스와 메트릭으로 수집하고 사용자, 세션, 비용, 지연 시간, 사용자 정의 메타데이터로 필터링합니다.
프로덕션 트래픽이나 실험에 LLM-as-a-judge, 휴리스틱 검사, 사람 검토를 적용해 정확성, 관련성, 안전성을 지속적으로 측정합니다.
Prompt Hub에서 프롬프트를 관리하고 버전 관리하며, 새 애플리케이션 코드를 배포하지 않고도 프롬프트를 배포, 롤백, 업데이트합니다.
OpenAI, Anthropic 등 LLM API 키를 코드베이스 밖의 암호화된 Vault에 보관하고 교체할 수 있습니다.
특화 강점Cloud API gateway providing instant access to thousands of models, trading local hardware privacy for cloud compute.
특화 강점Cloud API gateway providing instant access to thousands of models, trading local hardware privacy for cloud compute.

무료 / 오픈소스Open-source platform for building visual agentic workflows and RAG pipelines using local or cloud models.

무료 / 오픈소스Ollama 같은 로컬 모델을 관리하고 쿼리하도록 설계된 기능 풍부한 셀프 호스팅 웹 채팅 인터페이스입니다.
무료 / 오픈소스Ollama 같은 로컬 모델을 관리하고 쿼리하도록 설계된 기능 풍부한 셀프 호스팅 웹 채팅 인터페이스입니다.
무료 / 오픈소스Ollama의 범용 CLI 런타임과 달리 로컬 문서 채팅 및 RAG에 특별히 초점을 맞춘 프라이버시 중심 데스크톱 앱입니다.
무료 / 오픈소스Ollama의 범용 CLI 런타임과 달리 로컬 문서 채팅 및 RAG에 특별히 초점을 맞춘 프라이버시 중심 데스크톱 앱입니다.

무료 / 오픈소스Development framework for connecting local models to external document stores and structured data sources.
무료 / 오픈소스Development framework for connecting local models to external document stores and structured data sources.
무료 / 오픈소스그래픽 인터페이스로 모델을 로컬에서 실행하는 오픈소스 데스크톱 앱이지만, Ollama의 가벼운 CLI보다는 무겁습니다.

무료 / 오픈소스프로덕션 AI를 위한 에이전트 관측성, 평가 및 지속적 개선 플랫폼

무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링
무료 / 오픈소스스스로 개선되는 AI 에이전트를 구축·시뮬레이션·평가·모니터링

무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.
무료 / 오픈소스Maxim AI is a platform for evaluating, testing, and monitoring AI applications, and the home of Bifrost, an open-source LLM gateway. It helps teams ship reliable AI features with tracing, evaluation, agent simulation, and production observability.