O Vast.ai é um mercado de processamento para IA: em vez de uma única nuvem fechada, ele agrega mais de 20.000 GPUs de uma rede global de hosts e data centers e permite alugá-las por segundo. Como os preços são definidos pela oferta e demanda em vez do fornecedor, você costuma encontrar tarifas muito menores do que as de nuvens tradicionais, e pode filtrar por modelo de GPU, VRAM, preço e disponibilidade pelo console ou pela API. A configuração é propositalmente rápida: você adiciona crédito, pega uma chave de API e pode estar executando uma carga em menos de cinco minutos.
A plataforma oferece três formas de implantação. O GPU Cloud dá instâncias sob demanda com controle total em mais de 40 data centers e mais de 60 tipos de GPU, de placas de consumidor até NVIDIA GB200. O Serverless permite implantar modelos como endpoints com benchmarking e otimização automáticos entre tipos de GPU, escalando até zero para você pagar apenas o tempo de processamento. O Clusters oferece capacidade de GPU multinó dedicada com rede InfiniBand para treinamento em larga escala. Os preços vêm em três níveis: sob demanda para tempo de atividade garantido, interrompível 50%+ mais barato para trabalho em lote tolerante a falhas, e prazos reservados de 1, 3 ou 6 meses com até 50% de desconto.
O Vast.ai é feito para desenvolvedores e, cada vez mais, para agentes de IA. Toda GPU é provisionada por código, seja via CLI, SDK do Python ou API REST, e a plataforma se apresenta como infraestrutura pronta para agentes, na qual agentes podem projetar, adquirir e otimizar seu próprio processamento de forma autônoma. Uma Model Library oferece templates pré-configurados para modelos open-source populares, e a plataforma divulga certificação SOC 2, mais de 700 mil transações mensais e um amplo conjunto de casos de uso que abrange inferência de LLM, geração de imagens e vídeo, transcrição, fine-tuning e renderização.