
Inférence IA ultra-rapide sur la plateforme LPU et LPX
#1General Compute enregistre 13 828 visites mensuelles avec une croissance mensuelle de +7,2 % et un modèle tarifaire Essai gratuit, Tarifs sur demande. Modal enregistre 1 196 021 visites mensuelles avec une croissance de +30,2 % et un modèle tarifaire Freemium, Tarifs sur demande.
General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
| Dimension / Métrique | ||
|---|---|---|
| Domaine officiel | generalcompute.com | modal.com |
| Modèle tarifaire | Essai gratuit, Tarifs sur demande | Freemium, Tarifs sur demande |
| Visites mensuelles | 13,83 k (13 828) | 1,2 M (1 196 021) |
| Delta de trafic mensuel |
| +924 (+7,2 %) |
| +277,18 k (+30,2 %) |
| Marché principal et part | 🇺🇸 États-Unis (55,3 %) | 🇺🇸 États-Unis (43,9 %) |
|---|
| Visites directes / mois | 6,73 k | 845,64 k |
|---|
| Note des utilisateurs | 4,2 | 4,8 |
|---|
| Plateformes prises en charge | Site web | Site web |
|---|
General Compute is an inference cloud built around alternative AI silicon rather than standard GPU fleets. The company buys racks of accelerators, racks them in colocation data centres, and handles the cooling, power, and networking itself. On top of that hardware it runs a disaggregated inference stack that splits each request: prompt processing runs on NVIDIA GPUs for prefill, while token generation runs on faster decode chips such as Cerebras, SambaNova, Positron AI, and d-Matrix. Customers get bare metal access or a tokens-per-second SLA.
Prompt processing runs on NVIDIA GPUs while token generation runs on faster ASICs from Cerebras, SambaNova, Positron AI, and d-Matrix.
Buy racks of GPUs for prefill and ASICs for decode, with General Compute handling cooling, power, networking, and the orchestration software.
Inspect each accelerator in an interactive 3D view with its SRAM, power draw, cooling type, and the workloads it suits best.
The platform abstracts bespoke hardware so models run without customers having to learn a new chip toolchain.
Infrastructure cloud serverless pour les charges de travail IA et data
Écrivez du Python classique, associez des GPU ou des conteneurs et déployez des endpoints HTTPS qui s'adaptent au trafic et tombent à zéro au repos.
Lancez des environnements isolés et sûrs pour les agents de code, les rollouts RL et le code non fiable, avec des démarrages sous la seconde et plus d'un million de sandboxes simultanées.
Exécutez fine-tunes, LoRA, entraînements complets et apprentissage par renforcement sur une capacité GPU élastique mono ou multi-nœuds, sans demande de quota.
Servez des LLM et des modèles image, vidéo ou audio via des endpoints compatibles OpenAI, ou apportez votre propre pile d'inférence en laissant l'infrastructure à Modal.

Inférence IA ultra-rapide sur la plateforme LPU et LPX
#1
SpécialiséExécution serverless extrêmement rapide optimisée spécifiquement pour les modèles de médias génératifs plutôt que pour le code Python général.

Fournit une infrastructure GPU flexible et des points de terminaison serverless, bien qu'il soit moins axé sur les décorateurs de fonctions Python purs.

SpécialiséSe concentre fortement sur les API gérées d'inférence de modèles open-source plutôt que sur l'exécution arbitraire de conteneurs personnalisés.
Louez des GPU cloud à la seconde sur une place de marché mondiale
Fournit des clusters GPU d'entreprise robustes et une inférence gérée, nécessitant plus de configuration d'infrastructure que l'approche sans serveur de Modal.

Empaquetage de modèles plus simple via Cog, mais offre moins d'exécutions arbitraires de conteneurs Python serverless que Modal.

Cloud GPU distribuée qui orchestre les GPU grand public inutilisés du monde

SpécialiséL'inférence IA la plus rapide au monde, propulsée par la plus grande puce au monde

SpécialiséDes APIs d'inférence serverless à bas coût pour plus de 200 modèles
Provides integrated development studios and training workflows, but with less granular serverless function orchestration.
SpécialiséCombines ready-to-use model APIs and serverless GPU jobs, with simpler API consumption than custom Modal apps.
SpécialiséExécution serverless extrêmement rapide optimisée spécifiquement pour les modèles de médias génératifs plutôt que pour le code Python général.
Fournit une infrastructure GPU flexible et des points de terminaison serverless, bien qu'il soit moins axé sur les décorateurs de fonctions Python purs.
SpécialiséSe concentre fortement sur les API gérées d'inférence de modèles open-source plutôt que sur l'exécution arbitraire de conteneurs personnalisés.
Louez des GPU cloud à la seconde sur une place de marché mondiale
Fournit des clusters GPU d'entreprise robustes et une inférence gérée, nécessitant plus de configuration d'infrastructure que l'approche sans serveur de Modal.
Empaquetage de modèles plus simple via Cog, mais offre moins d'exécutions arbitraires de conteneurs Python serverless que Modal.
Cloud GPU distribuée qui orchestre les GPU grand public inutilisés du monde
SpécialiséL'inférence IA la plus rapide au monde, propulsée par la plus grande puce au monde
SpécialiséDes APIs d'inférence serverless à bas coût pour plus de 200 modèles
Provides integrated development studios and training workflows, but with less granular serverless function orchestration.