RightNow Inference(RunInfra)는 월간 방문 18,110, 전월 대비 성장률 -22.6%, 무료 체험, 유료, 가격 문의 가격 모델을 기록합니다. SiliconFlow는 월간 방문 276,303, 성장률 -10.5%, Pay-as-you-go 가격 모델을 기록합니다.
에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅
하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론
| 항목 / 지표 | | |
|---|---|---|
| 공식 도메인 | runinfra.ai | siliconflow.com |
| 가격 모델 | 무료 체험, 유료, 가격 문의 | Pay-as-you-go |
| 월간 방문 수 | 1.81만 (18,110) | 27.63만 (276,303) |
| 전월 대비 트래픽 변화량 | -5.28천 (-22.6%) | -3.25만 (-10.5%) |
| 주요 시장 및 점유율 | 🇮🇳 인도 (48.4%) | 🇺🇸 미국 (18.8%) |
| 월 직접 방문 수 | 7.78천 | 9.51만 |
| 사용자 평점 | 4.4 | 4.6 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅
동일 에이전트 세션의 반복 호출을 컨텍스트를 보유한 복제본으로 자동 유지해 보고 기준 약 99% 캐시 적중률을 달성하고 실효 입력 비용을 절감합니다.
하나의 API 키가 OpenAI와 Anthropic SDK 모두에서 작동해 기존 에이전트 코드를 최소 변경으로 전환할 수 있습니다.
가격을 공개한 오픈 모델을 제공하며 도구 호출, JSON 모드, 스트리밍, 이미지 입력을 지원하고 실시간 출력 속도와 캐시 지표를 공개합니다.
캐시 적중은 사용량에 표시되고 캐시 요율로 과금되며, 측정 방법과 모델별 실효 입력 가격도 공개됩니다.
하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론
단일 엔드포인트로 다양한 LLM과 멀티모달 모델에 접근하며, 대부분의 기존 SDK 코드는 base URL과 키 교체만으로 동작합니다.
종량제 서버리스로 시작해 처리량과 비용 요구가 커지면 전용 엔드포인트, 예약 H100/H200/MI300, 탄력 GPU(FaaS)로 확장합니다.
자체 데이터로 지원 모델을 커스터마이즈하고, 학습 파이프라인을 처음부터 구축하지 않고도 호스팅 엔드포인트로 배포합니다.
투명한 요율표가 100만 토큰당 입력·캐시 입력·출력 가격을 제시하고, 생성 모델은 장당 요금도 함께 표시합니다.
무료 / 오픈소스DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.
특화 강점GPT-6 Astra, Sol, Luna와 실시간 멀티모달 에이전트를 배포하기 위한 엔터프라이즈 개발자 플랫폼 및 API.
특화 강점넉넉한 무료 티어로 Gemini 모델에 직접 액세스할 수 있지만, 오픈소스 모델의 다양성은 다소 부족합니다.
더 다양한 글로벌 모델을 집합하지만, SiliconFlow의 특화된 고처리량 오픈 웨이트 인프라는 부족합니다.
무료 / 오픈소스오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요
특화 강점Specializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
오픈 모델을 위한 안정적인 서버리스 추론을 제공하지만, 가격 및 개발자 도구 생태계가 다릅니다.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
커스텀 머신러닝 모델 실행과 파인튜닝에 강점이 있지만, 표준 LLM 추론에는 비용이 더 들 수 있습니다.
커스텀 머신러닝 모델 실행과 파인튜닝에 강점이 있지만, 표준 LLM 추론에는 비용이 더 들 수 있습니다.
특화 강점Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
특화 강점Unsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
