즉시 액세스할 수 있는 대규모 호스팅 모델 카탈로그를 제공하지만, 자체 호스팅 대신 타사 플랫폼을 신뢰해야 합니다.
| 항목 / 지표 | ![]() | |
|---|---|---|
| 공식 도메인 | litellm.ai | midaflow.com |
| 가격 모델 | 무료+유료, 가격 문의 | 가격 문의 |
| 월간 방문 수 | 57.7만 (576,967) | 0 (0) |
| 전월 대비 트래픽 변화량 | +4.25만 (+7.9%) |
| 0 (0%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (27.9%) | 🌐 글로벌 (—) |
|---|
| 월 직접 방문 수 | 22.9만 | 0 |
|---|
| 사용자 평점 | 4.8 | 4.1 |
|---|
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
|---|

100개 이상의 LLM 제공자를 잇는 오픈소스 AI 게이트웨이
하나의 요청 형식으로 100개 이상 제공자와 1,800개 이상 모델을 호출하고 앱 코드 수정 없이 모델을 교체합니다.
팀·프로젝트·앱별로 범위가 제한된 키를 발급하고 월 지출 한도를 설정해 누가 얼마나 쓰는지 확인합니다.
여러 배포에 트래픽을 분산하고 실패 시 재시도하며, 모델이나 제공자 장애 시 자동으로 대체 경로로 전환합니다.
요청량, 토큰 수, 모델별 비용을 대시보드로 보여주고 로그·분석 도구 연동을 지원합니다.
소규모 비즈니스의 마케팅을 운영하는 AI 마케팅 팀
각 AI 에이전트가 명확한 마케팅 또는 영업 업무를 담당해, 만능 비서 하나가 아니라 직능별로 업무를 분담합니다.
사람 매니저가 AI 에이전트를 감독해 결과를 목표에 맞추고, 책임 있는 연락 창구를 제공합니다.
한 번에 한 채널이 아니라 마케팅, 영업, 성장 활동을 함께 자동화하는 것을 전제로 설계되었습니다.
사내 마케팅 부서 없이 성과를 원하는 중소기업과 독립 전문가를 대상으로 합니다.
즉시 액세스할 수 있는 대규모 호스팅 모델 카탈로그를 제공하지만, 자체 호스팅 대신 타사 플랫폼을 신뢰해야 합니다.

특화 강점Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
#2API 게이트웨이를 통해 자동 모델 장애 조치 및 예산 거버넌스를 제공하지만, 오픈소스 커스터마이징은 상대적으로 적습니다.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
고급 엔터프라이즈 관찰 가능성 및 가드레일 도구를 제공하지만, LiteLLM의 경량 자체 호스팅 프록시가 주는 단순함은 부족합니다.

관리형 멀티프로바이더 AI 라우팅 및 비용 추적을 제공하지만, LiteLLM의 네이티브 오픈소스 유연성은 부족합니다.
무료 / 오픈소스LLM 제공업체를 통합하기 위한 오픈소스 대안이지만, 미들웨어 통합 생태계가 상대적으로 덜 방대합니다.

무료 / 오픈소스Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
특화 강점요청 캐싱, 모니터링, 비용 분석에 뛰어나지만, 라우터라기보다는 프록시 모니터로 주로 작동합니다.

무료 / 오픈소스Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
특화 강점Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
API 게이트웨이를 통해 자동 모델 장애 조치 및 예산 거버넌스를 제공하지만, 오픈소스 커스터마이징은 상대적으로 적습니다.
영업과 마케팅 워크플로를 위한 AI 네이티브 GTM 플랫폼
실제 업무 워크플로를 위한 노코드 AI 에이전트와 팀
무료 / 오픈소스Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.