즉시 액세스할 수 있는 대규모 호스팅 모델 카탈로그를 제공하지만, 자체 호스팅 대신 타사 플랫폼을 신뢰해야 합니다.
| 항목 / 지표 | ![]() | ![]() |
|---|---|---|
| 공식 도메인 | litellm.ai | replai.so |
| 가격 모델 | 무료+유료, 가격 문의 | 무료+유료, 유료 |
| 월간 방문 수 | 57.7만 (576,967) | 3.99천 (3,987) |
| 전월 대비 트래픽 변화량 | +4.25만 (+7.9%) | -7.01천 (-63.8%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (27.9%) | 🇮🇳 인도 (44.3%) |
| 월 직접 방문 수 | 22.9만 | 1.56천 |
| 사용자 평점 | 4.8 | 3.8 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |

100개 이상의 LLM 제공자를 잇는 오픈소스 AI 게이트웨이
하나의 요청 형식으로 100개 이상 제공자와 1,800개 이상 모델을 호출하고 앱 코드 수정 없이 모델을 교체합니다.
팀·프로젝트·앱별로 범위가 제한된 키를 발급하고 월 지출 한도를 설정해 누가 얼마나 쓰는지 확인합니다.
여러 배포에 트래픽을 분산하고 실패 시 재시도하며, 모델이나 제공자 장애 시 자동으로 대체 경로로 전환합니다.
요청량, 토큰 수, 모델별 비용을 대시보드로 보여주고 로그·분석 도구 연동을 지원합니다.

당신이 쓴 것처럼 들리는 AI 메일 초안
당신이 쓴 메일 예시를 공유하면 Replai가 말투, 평소 답장 길이, 즐겨 쓰는 표현, 맺음말을 평가하고 프로파일링해 이후 초안이 더 당신답게 됩니다.
Gmail이나 Outlook을 연결하면 들어온 메일이 자동으로 우선, 답장 필요, 참고, 수신거부로 분류되어 소음이 당신에게 닿지 않습니다.
받은 메일을 붙여넣거나 몇 개의 글머리 항목을 입력하면 당신 목소리로 쓰인 완성된 답장이나 메일 전문을 얻습니다.
통화를 녹음하면 Replai가 전사하고 누가 무엇을 말했는지 추적해 공유 가능한 깔끔한 요약을 돌려줍니다.
즉시 액세스할 수 있는 대규모 호스팅 모델 카탈로그를 제공하지만, 자체 호스팅 대신 타사 플랫폼을 신뢰해야 합니다.

특화 강점Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
특화 강점Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
API 게이트웨이를 통해 자동 모델 장애 조치 및 예산 거버넌스를 제공하지만, 오픈소스 커스터마이징은 상대적으로 적습니다.
API 게이트웨이를 통해 자동 모델 장애 조치 및 예산 거버넌스를 제공하지만, 오픈소스 커스터마이징은 상대적으로 적습니다.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
고급 엔터프라이즈 관찰 가능성 및 가드레일 도구를 제공하지만, LiteLLM의 경량 자체 호스팅 프록시가 주는 단순함은 부족합니다.

관리형 멀티프로바이더 AI 라우팅 및 비용 추적을 제공하지만, LiteLLM의 네이티브 오픈소스 유연성은 부족합니다.
무료 / 오픈소스LLM 제공업체를 통합하기 위한 오픈소스 대안이지만, 미들웨어 통합 생태계가 상대적으로 덜 방대합니다.

무료 / 오픈소스Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.

WhatsApp, Telegram, Instagram 등을 위한 자동 답장 봇
WhatsApp, Telegram, Instagram 등을 위한 자동 답장 봇
특화 강점요청 캐싱, 모니터링, 비용 분석에 뛰어나지만, 라우터라기보다는 프록시 모니터로 주로 작동합니다.

무료 / 오픈소스Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
무료 / 오픈소스Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
특화 강점몇 초 만에 내 말투로 완성되는 사려 깊은 LinkedIn 댓글