Vast.ai est une place de marché de calcul pour l'IA : au lieu d'un cloud fermé unique, il agrège plus de 20 000 GPU issus d'un réseau mondial d'hôtes et de centres de données et vous laisse les louer à la seconde. Comme les prix sont fixés par l'offre et la demande plutôt que par le fournisseur, vous trouvez souvent des tarifs nettement inférieurs à ceux des clouds classiques, et vous pouvez filtrer par modèle de GPU, VRAM, prix et disponibilité depuis la console ou l'API. La mise en route est volontairement rapide : vous ajoutez du crédit, récupérez une clé API et pouvez exécuter une charge de travail en moins de cinq minutes.
La plateforme propose trois modes de déploiement. GPU Cloud donne des instances à la demande avec un contrôle total sur plus de 40 centres de données et plus de 60 types de GPU, des cartes grand public aux NVIDIA GB200. Serverless permet de déployer des modèles en tant qu'endpoints avec benchmarking et optimisation automatiques entre types de GPU, en réduisant à zéro pour ne payer que le temps de calcul. Clusters fournit une capacité GPU multi-nœuds dédiée avec réseau InfiniBand pour l'entraînement à grande échelle. La tarification se décline en trois niveaux : à la demande pour une disponibilité garantie, interruptible au moins 50 % moins cher pour les traitements par lots tolérants aux pannes, et réservé sur 1, 3 ou 6 mois jusqu'à 50 % de réduction.
Vast.ai est conçu pour les développeurs et, de plus en plus, pour les agents d'IA. Chaque GPU est provisionné par code, via CLI, SDK Python ou API REST, et la plateforme se présente comme une infrastructure prête pour les agents, où ceux-ci peuvent concevoir, acquérir et optimiser eux-mêmes leur calcul. Une Model Library offre des modèles préconfigurés pour les modèles open source populaires, et la plateforme met en avant la certification SOC 2, plus de 700 000 transactions mensuelles et un large éventail de cas d'usage couvrant l'inférence LLM, la génération d'images et de vidéos, la transcription, le fine-tuning et le rendu.