# RightNow Inference(RunInfra)

2026-11-11에 검증된 OpenAITools.app 텔레메트리에 따르면, RightNow Inference(RunInfra)(runinfra.ai)은(는) AI 개발자 도구에 색인된 AI 플랫폼으로 월 1.81만회 방문을 기록 중이며, 전월 대비 트래픽 변화량은 -5.28천(-22.6%)입니다. 주요 지리적 시장은 인도(트래픽 점유율 48.4%)이며, 무료 체험, 유료, 가격 문의 가격 모델로 운영됩니다. 월간 트래픽 기준 주요 경쟁 대안으로는 Groq (월 398.79만회 방문), Together AI (월 164.59만회 방문), DeepSeek (월 3.73억회 방문) 등이 있습니다.

에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅

## 주요 텔레메트리 및 사양

| 지표 | 값 |
| :--- | :--- |
| 도구 이름 | RightNow Inference(RunInfra) |
| 핸들 | runinfra |
| Status | active |
| Origin | independent |
| Maintenance | active |
| 공식 도메인 | runinfra.ai |
| 웹사이트 URL | https://runinfra.ai |
| 카테고리 | AI 개발자 도구, Large Language Models (LLMs), AI API, 오픈소스 AI 모델 |
| 가격 모델 | 무료 체험, 유료, 가격 문의 |
| 월간 방문 수 | 18,110 |
| 전월 대비 트래픽 변화 | -5,280 |
| 전월 대비 성장률 | -22.6% |
| 주요 시장 | 인도 |
| 시장 점유율 | 48.4% |
| 직접 방문 | 7,781 |
| 자연 검색 방문 | — |
| 소셜 방문 | — |
| 추천 방문 | 2,990 |
| 이메일 방문 | 47 |
| 리뷰 점수 | 4.4 |
| 저장 수 | 0 |
| 지원 플랫폼 | 웹사이트 |
| 결제 플랫폼 |  |
| 속성 | 가격: 무료 체험; 가격: 유료; 가격: 가격 문의; 기능: 웹사이트 |
| 태그 | AI 추론 최적화, 오픈소스 모델 배포, GPU 벤치마킹, vLLM, SGLang, TensorRT-LLM, 모델 서빙, 양자화, CUDA 커널 튜닝, 서버리스 GPU |

## 개요

runinfra.ai에서 운영되는 RightNow Inference는 Y Combinator의 지원을 받는 추론 제공업체로, 에이전트형 워크로드의 경제성에 집중합니다. 에이전트는 매 턴마다 같은 컨텍스트를 다시 보내는 경향이 있어 입력 토큰이 주요 비용이 됩니다. RightNow Inference는 세션 인식 라우팅으로 이를 해결합니다. 동일 세션의 반복 호출은 관련 KV 캐시를 이미 보유한 GPU 복제본으로 우선 라우팅되어 캐시 입력이 정가보다 훨씬 저렴하게 과금됩니다.

이 플랫폼은 OpenAI와 Anthropic SDK에 호환되는 엔드포인트를 통해 DeepSeek, GLM, Qwen, Step 계열 등을 포함한 엄선된 오픈 모델 라이브러리를 제공하므로 기존 에이전트 코드는 최소한의 변경만 필요합니다. 모델별 출력 속도, 캐시 적중률, 실효 입력 가격을 공개하고 캐시 측정 방법도 문서화합니다.

종량제 API 외에도 Claude Code, opencode 등 도구를 위한 월 10달러부터의 코딩 플랜을 제공하며, 포함 사용량은 5시간 및 주간 롤링 윈도로 초기화되고 한도 도달 시 크레딧 또는 무료 대기를 선택할 수 있습니다. 오픈 모델 품질을 포기하지 않고 비용을 관리하려는 팀을 겨냥합니다.

## 가격 및 요금제

종량제 API 가격은 모델별로 공개되며 캐시 입력은 100만 토큰당 약 0.01달러부터 시작합니다. 높은 캐시 적중률 덕분에 실효 입력 비용이 정가보다 수 배 낮아지는 경우도 많습니다. 코딩 플랜은 Starter 월 10달러, Pro 29달러, Team 99달러이며 포함 사용량은 5시간 및 주간 단위로 초기화되고 한도 시 크레딧 또는 무료 대기를 이용할 수 있습니다. 무료 체험과 문의 기반 엔터프라이즈 계약도 제공합니다.

## 주요 기능 및 역량

- **웜 캐시 세션 라우팅:** 동일 에이전트 세션의 반복 호출을 컨텍스트를 보유한 복제본으로 자동 유지해 보고 기준 약 99% 캐시 적중률을 달성하고 실효 입력 비용을 절감합니다.
- **드롭인 API 호환:** 하나의 API 키가 OpenAI와 Anthropic SDK 모두에서 작동해 기존 에이전트 코드를 최소 변경으로 전환할 수 있습니다.
- **엄선된 오픈 모델 라이브러리:** 가격을 공개한 오픈 모델을 제공하며 도구 호출, JSON 모드, 스트리밍, 이미지 입력을 지원하고 실시간 출력 속도와 캐시 지표를 공개합니다.
- **투명한 캐시 과금:** 캐시 적중은 사용량에 표시되고 캐시 요율로 과금되며, 측정 방법과 모델별 실효 입력 가격도 공개됩니다.
- **코딩 에이전트 플랜:** Claude Code, opencode 등 20개 이상 에이전트를 위한 정액 플랜으로 사용량 윈도와 한도 도달 시 무료 대기를 제공합니다.

## 주요 활용 사례

- **장시간 세션 비용 절감 (에이전트 개발자):** 턴 사이에 컨텍스트를 따뜻하게 유지해 반복 입력을 캐시 요율로 과금합니다. 큰 프롬프트를 반복 전송하는 다단계 에이전트에 특히 중요합니다.
- **하나의 키로 오픈 모델 제공 (AI 플랫폼 팀):** OpenAI·Anthropic 호환 엔드포인트를 사용해 SDK 통합을 다시 작성하지 않고 기존 스택에 오픈 모델을 추가합니다.
- **정액 플랜으로 코딩 에이전트 운영 (비용을 중시하는 창업자):** 예측 가능한 월 요금과 롤링 사용량 윈도로 개발자에게 주요 에이전트 도구의 코딩 플랜 접근을 제공합니다.
- **처리량과 가격 비교 (벤치마크 분석가):** 공개된 출력 속도, 캐시 적중, 실효 입력 데이터로 동일 기준에서 제공업체를 비교합니다.

## 강점

- 세션 인식 라우팅으로 캐시 적중률을 약 99%까지 높여 실효 입력 비용을 크게 절감
- OpenAI와 Anthropic SDK 호환으로 마이그레이션 비용이 낮음
- 모델별 속도·캐시·가격 데이터를 공개해 비교가 용이
- 합리적인 코딩 플랜과 한도 도달 시 무료 대기 제공

## 한계

- 모델 라이브러리가 엄선형이라 대형 범용 애그리게이터보다 작음
- 캐시와 실효 가격은 최선 노력 방식의 적중에 의존해 워크로드에 따라 달라짐
- 일부 벤치마크 수치는 공급업체 자체 측정 방법에 기반

## 자주 묻는 질문

### RightNow Inference는 RunInfra와 같은 회사인가요?
네. runinfra.ai 도메인은 현재 RightNow Inference로 운영되며, 에이전트용 오픈 모델 제공에 집중하는 Y Combinator 지원 추론 제공업체입니다.

### 어떤 SDK를 지원하나요?
하나의 API 키로 OpenAI와 Anthropic SDK 모두에서 작동한다고 안내하며, 기존 에이전트 코드의 통합 변경을 최소화합니다.

### 캐시가 어떻게 비용을 줄이나요?
동일 세션의 반복 호출이 컨텍스트를 보유한 복제본으로 라우팅되어 캐시 입력 토큰이 표준 입력보다 훨씬 저렴하게 과금됩니다. 측정 방법은 공개되며 적중은 최선 노력 방식이라고 명시합니다.

### 코딩 플랜 요금은 얼마인가요?
Starter 월 10달러, Pro 29달러, Team 99달러이며 포함 사용량은 5시간 및 주간 단위로 초기화되고 크레딧 또는 무료 대기를 선택할 수 있습니다.

### RightNow Inference(RunInfra)의 월간 트래픽과 성장 추세는 어떠한가요?
RightNow Inference(RunInfra)은(는) 현재 월 1.81만회 방문을 기록 중이며, 전월 대비 트래픽 변화량은 -5.28천(성장률 -22.6%)입니다. 주요 유입 시장은 인도(점유율 48.4%)이며, 여기에는 월 직접 방문 7.78천회와 월 자연 검색 방문 —회가 포함됩니다.

### RightNow Inference(RunInfra)은(는) 무료인가요? 가격 모델은 무엇인가요?
RightNow Inference(RunInfra)은(는) 무료 체험, 유료, 가격 문의 가격 모델로 운영됩니다. 종량제 API 가격은 모델별로 공개되며 캐시 입력은 100만 토큰당 약 0.01달러부터 시작합니다. 높은 캐시 적중률 덕분에 실효 입력 비용이 정가보다 수 배 낮아지는 경우도 많습니다. 코딩 플랜은 Starter 월 10달러, Pro 29달러, Team 99달러이며 포함 사용량은 5시간 및 주간 단위로 초기화되고 한도 시 크레딧 또는 무료 대기를 이용할 수 있습니다. 무료 체험과 문의 기반 엔터프라이즈 계약도 제공합니다. 지원되는 결제 및 체크아웃 플랫폼에는 등록되지 않음 등이 있습니다.

### 2026년 최고의 RightNow Inference(RunInfra) 대안은 무엇인가요?
OpenAITools.app의 카테고리 트래픽과 기능 적합도를 기준으로 할 때 RightNow Inference(RunInfra)의 상위 5개 대안은 다음과 같습니다: 1. Groq (월 398.79만회 방문); 2. Together AI (월 164.59만회 방문); 3. DeepSeek (월 3.73억회 방문); 4. DeepInfra (월 45.78만회 방문); 5. Chutes (월 25.02만회 방문).

### RightNow Inference(RunInfra)은(는) 어떤 플랫폼과 핵심 AI 역량을 지원하나요?
RightNow Inference(RunInfra)은(는) AI 개발자 도구, Large Language Models (LLMs), AI API, 오픈소스 AI 모델으로 분류되며 다음 플랫폼을 지원합니다: 웹사이트. 핵심 역량 태그에는 AI 추론 최적화, 오픈소스 모델 배포, GPU 벤치마킹, vLLM, SGLang, TensorRT-LLM 등이 있습니다.

## 대안

| 도구 이름 | 월간 방문 수 | 가격 모델 | 비교 |
| :--- | :--- | :--- | :--- |
| [Groq](https://openaitools.app/ko/tool/groq) | 3,987,936 | 유료 | [비교](https://openaitools.app/ko/compare/groq-vs-runinfra) |
| [Together AI](https://openaitools.app/ko/tool/together-ai) | 1,645,930 | 무료+유료, 유료 | [비교](https://openaitools.app/ko/compare/runinfra-vs-together-ai) |
| [DeepSeek](https://openaitools.app/ko/tool/deepseek) | 372,761,591 | 무료+유료 | [비교](https://openaitools.app/ko/compare/deepseek-vs-runinfra) |
| [DeepInfra](https://openaitools.app/ko/tool/deep-infra) | 457,810 | 유료 | [비교](https://openaitools.app/ko/compare/deep-infra-vs-runinfra) |
| [Chutes](https://openaitools.app/ko/tool/chutes) | 250,187 | 유료 | [비교](https://openaitools.app/ko/compare/chutes-vs-runinfra) |
| [OrcaRouter](https://openaitools.app/ko/tool/orcarouter) | 975,300 | 무료+유료 | [비교](https://openaitools.app/ko/compare/orcarouter-vs-runinfra) |
| [Portkey](https://openaitools.app/ko/tool/portkey-ai) | 195,650 | 무료+유료, 유료, 가격 문의 | [비교](https://openaitools.app/ko/compare/portkey-ai-vs-runinfra) |
| [Doubleword](https://openaitools.app/ko/tool/doubleword) | 21,405 | 유료, 가격 문의 | [비교](https://openaitools.app/ko/compare/doubleword-vs-runinfra) |
| [Novita AI](https://openaitools.app/ko/tool/novita-ai) | 271,371 | 유료 | [비교](https://openaitools.app/ko/compare/novita-ai-vs-runinfra) |
| [Ollama](https://openaitools.app/ko/tool/ollama) | 9,421,973 | Free, Freemium, Paid | [비교](https://openaitools.app/ko/compare/ollama-vs-runinfra) |
| [Google Gemma 오픈 모델](https://openaitools.app/ko/tool/gemma-open-models-by-google) | 4,900,914 | 무료+유료, 유료 | [비교](https://openaitools.app/ko/compare/gemma-open-models-by-google-vs-runinfra) |
| [SiliconFlow](https://openaitools.app/ko/tool/siliconflow) | 276,303 | Pay-as-you-go | [비교](https://openaitools.app/ko/compare/runinfra-vs-siliconflow) |

---
출처: https://openaitools.app/ko/tool/runinfra