특화 강점DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.
General Compute는 월간 방문 13,828, 전월 대비 성장률 +7.2%, 무료 체험, 가격 문의 가격 모델을 기록합니다. Groq는 월간 방문 3,987,936, 성장률 +10%, 유료 가격 모델을 기록합니다.
General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
| 항목 / 지표 | ![]() | |
|---|---|---|
| 공식 도메인 | generalcompute.com | groq.com |
| 가격 모델 | 무료 체험, 가격 문의 | 유료 |
| 월간 방문 수 | 1.38만 (13,828) | 398.79만 (3,987,936) |
| 전월 대비 트래픽 변화량 | +924 (+7.2%) | +36.27만 (+10%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (55.3%) | 🇮🇳 인도 (19.3%) |
| 월 직접 방문 수 | 6.73천 | 170.25만 |
| 사용자 평점 | 4.2 | 4.7 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
Prompt processing runs on NVIDIA GPUs while token generation runs on faster ASICs from Cerebras, SambaNova, Positron AI, and d-Matrix.
Buy racks of GPUs for prefill and ASICs for decode, with General Compute handling cooling, power, networking, and the orchestration software.
Inspect each accelerator in an interactive 3D view with its SRAM, power draw, cooling type, and the workloads it suits best.
The platform abstracts bespoke hardware so models run without customers having to learn a new chip toolchain.

LPU와 LPX 기반 초고속 AI 추론
학습이 아닌 추론에 특화해 설계되고 매우 낮은 지연에 맞춘 자체 가속기입니다.
Llama, Mixtral, Gemma 등 인기 오픈 모델과 Whisper 음성 모델을 호스팅합니다.
일반적인 OpenAI 형식 요청과 폭넓게 호환되어 빠르게 통합할 수 있습니다.
Whisper 자동 음성 인식과 텍스트 음성 변환을 제공해 음성 앱에 활용할 수 있습니다.
특화 강점DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.

특화 강점Proprietary frontier models with powerful reasoning and multimodal features, but lacking open-weight model hosting and custom inference speeds.
특화 강점Proprietary frontier models with powerful reasoning and multimodal features, but lacking open-weight model hosting and custom inference speeds.

특화 강점Gemini 모델로 멀티모달 애플리케이션을 구축하기 위한 Google의 신속한 프로토타이핑 IDE이자 개발자 API 워크벤치.
특화 강점Gemini 모델로 멀티모달 애플리케이션을 구축하기 위한 Google의 신속한 프로토타이핑 IDE이자 개발자 API 워크벤치.
수백 개의 모델을 통합하는 API 게이트웨이지만, 직접 하드웨어를 호스팅하기보다 라우터 역할을 합니다.

오픈소스 모델 추론을 위한 탄탄한 클라우드 플랫폼으로, 폭넓은 파인튜닝을 지원하지만 기본 처리 속도는 약간 느립니다.
Nebius is an AI-focused cloud platform that gives teams non-virtualized NVIDIA GPU clusters, managed MLOps tooling, and a serverless inference layer so they can move from experiment to production on one stack.

Groq에 버금가는 초고속 토큰 생성 속도를 자랑하는 웨이퍼 스케일 하드웨어 클라우드이지만, 모델 카탈로그는 좀 더 전문화되어 있습니다.