Anyscale empaquette le projet open source Ray en service managé afin que les équipes d'ingénierie n'aient plus à exploiter la couche cluster. La promesse est une IA à l'échelle de la production sur vos propres GPU cloud : vous apportez le calcul, Anyscale prend en charge l'orchestration, la mise à l'échelle et l'exploitation fiable des charges Ray. L'entreprise a été fondée par les créateurs de Ray et reste le principal acteur commercial du projet.
La plateforme s'organise autour des charges qui dominent le développement IA actuel plutôt qu'autour d'un produit unique. La curation de données multimodales exécute de grands pipelines sur vidéo, image, texte et audio ; l'entraînement distribué orchestre des clusters GPU avec mise à l'échelle élastique et prétraitement de dernière étape ; la génération d'embeddings par lots parallélise la vectorisation pour la recherche et le retrieval ; et le post-entraînement prend en charge des frameworks de type RL comme SkyRL et veRL, nativement construits sur Ray. Les bibliothèques existantes telles que PyTorch, vLLM, SGLang et XGBoost passent à l'échelle via des API Python plutôt que par réécriture.
Sur le plan opérationnel, Anyscale met en avant l'allocation matérielle fine, chaque partie d'une charge pouvant revendiquer indépendamment des CPU, GPU, TPU ou des racks d'accélérateurs comme NVL72, ainsi qu'une communication distribuée efficace via le magasin d'objets en mémoire de Ray ou RDMA. Orchestration multicloud, gouvernance du calcul et observabilité complètent la gestion, et les crédits de démarrage avec essai gratuit abaissent le coût d'une évaluation.