Cerebrium는 월간 방문 26,974, 전월 대비 성장률 -50.8%, 무료 체험, 유료 가격 모델을 기록합니다. Thunder Compute는 월간 방문 102,147, 성장률 -29%, Paid (per-minute instances, per-second sandboxes) 가격 모델을 기록합니다.
몇 초대 콜드 스타트를 실현하는 실시간 AI용 서버리스 GPU
분 단위 인스턴스와 초 단위 샌드박스를 갖춘 저렴한 클라우드 GPU.
| 항목 / 지표 | | |
|---|---|---|
| 공식 도메인 | cerebrium.ai | thundercompute.com |
| 가격 모델 | 무료 체험, 유료 | Paid (per-minute instances, per-second sandboxes) |
| 월간 방문 수 | 2.7만 (26,974) | 10.21만 (102,147) |
| 전월 대비 트래픽 변화량 | -2.78만 (-50.8%) | -4.17만 (-29%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (22.3%) | 🇺🇸 미국 (53.5%) |
| 월 직접 방문 수 | 1.5만 | 4.07만 |
| 사용자 평점 | 4.3 | 4.4 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
몇 초대 콜드 스타트를 실현하는 실시간 AI용 서버리스 GPU
메모리와 GPU 스냅샷으로 컨테이너를 약 2~4초에 복원하며, 음성 에이전트 등 인터랙티브 워크로드에 필수적입니다.
12종 이상의 GPU와 여러 클라우드에 걸친 수천 개 GPU를 예약이나 종속 없이 사용하고 트래픽 급증 시 자동 확장합니다.
자체 코드나 Dockerfile에서 LLM, 음성 파이프라인, 이미지·비디오 모델을 배포하고 REST, 웹소켓, 스트리밍 엔드포인트를 활용합니다.
실시간 로그, 메트릭, 스케일링 이벤트를 제공하고 OpenTelemetry를 네이티브 지원해 기존 모니터링에 연결합니다.
분 단위 인스턴스와 초 단위 샌드박스를 갖춘 저렴한 클라우드 GPU.
RTX A6000, L40, A100 80GB, H100 SXM 머신을 띄워 대개 몇 분 안에 SSH로 접속하고, 실행 중일 때만 과금됩니다.
GPU가 있거나 없는 격리된 Ubuntu VM을 RL 롤아웃, 평가, CI용으로 띄우고 초 단위로 과금하며 배치 사이에는 0으로 축소합니다.
CLI, VS Code 확장, MCP 서버, REST API로 터미널, 에디터, AI 에이전트, 자체 서비스에서 인프라를 제어합니다.
인스턴스 디스크를 스냅샷으로 저장하고 나중에 복원해, 머신을 계속 켜두지 않고 실험을 멈출 수 있습니다.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Nebius is an AI-focused cloud platform that gives teams non-virtualized NVIDIA GPU clusters, managed MLOps tooling, and a serverless inference layer so they can move from experiment to production on one stack.
무료 / 오픈소스PyTorch Lightning 제작팀이 만든 AI 클라우드
무료 / 오픈소스200개 이상 모델 API, 에이전트 샌드박스, GPU 컴퓨팅을 하나의 클라우드에서
학습과 추론을 위한 프라이빗 AI 클라우드
무료 / 오픈소스General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
무료 / 오픈소스General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
