무료 / 오픈소스DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.
OrcaRouter는 월간 방문 975,300, 전월 대비 성장률 -5.2%, 무료+유료 가격 모델을 기록합니다. RightNow Inference(RunInfra)는 월간 방문 18,110, 성장률 -22.6%, 무료 체험, 유료, 가격 문의 가격 모델을 기록합니다.

에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅
| 항목 / 지표 | ![]() | |
|---|---|---|
| 공식 도메인 | orcarouter.ai | runinfra.ai |
| 가격 모델 | 무료+유료 | 무료 체험, 유료, 가격 문의 |
| 월간 방문 수 | 97.53만 (975,300) | 1.81만 (18,110) |
| 전월 대비 트래픽 변화량 | -5.38만 (-5.2%) | -5.28천 (-22.6%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (21.5%) | 🇮🇳 인도 (48.4%) |
| 월 직접 방문 수 | 24.97만 | 7.78천 |
| 사용자 평점 | 4.3 | 4.4 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Each prompt is graded and routed to the model that clears your quality bar, with configurable fallback chains that retry before a response starts.
Pay provider prices with $0 per-token added on pay-as-you-go and subscriptions, or bring your own provider keys and credits.
PII shielding, jailbreak and injection blocking, and per-call approval for tool and MCP actions run before you are billed.
Request logs, per-prompt receipts, routing and spend dashboards, and copy-as-cURL make every call auditable and attributable.

에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅
동일 에이전트 세션의 반복 호출을 컨텍스트를 보유한 복제본으로 자동 유지해 보고 기준 약 99% 캐시 적중률을 달성하고 실효 입력 비용을 절감합니다.
하나의 API 키가 OpenAI와 Anthropic SDK 모두에서 작동해 기존 에이전트 코드를 최소 변경으로 전환할 수 있습니다.
가격을 공개한 오픈 모델을 제공하며 도구 호출, JSON 모드, 스트리밍, 이미지 입력을 지원하고 실시간 출력 속도와 캐시 지표를 공개합니다.
캐시 적중은 사용량에 표시되고 캐시 요율로 과금되며, 측정 방법과 모델별 실효 입력 가격도 공개됩니다.
무료 / 오픈소스DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.
유연한 라우팅으로 방대한 최신 모델 카탈로그를 제공하지만, OrcaRouter의 전용 기업 거버넌스는 부족합니다.
무료 / 오픈소스오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요


Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.


무료 / 오픈소스100개 이상의 LLM을 페일오버와 함께 통합하는 오픈소스 프록시 및 SDK를 제공하지만, 관리형 서비스 대신 자체 호스팅이 필요합니다.

Routes requests across frontier models with automatic failover and analytics, serving as a straightforward alternative API proxy.
하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론
하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론