TextSynth es una plataforma de inferencia en funcionamiento desde 2020 y fue uno de los primeros servicios en exponer públicamente el modelo de lenguaje GPT-2. Hoy agrupa varias familias de modelos abiertos tras una única API REST y un playground web: grandes modelos de lenguaje como Mistral y Llama, Stable Diffusion para generar imágenes y Whisper para voz a texto, además de generación de voz. La empresa indica que todos los servidores están en Francia.
Lo que distingue al servicio es su capa de inferencia. En lugar de apoyarse en frameworks estándar, TextSynth mantiene código de inferencia propio diseñado para ofrecer resultados más rápidos en GPU y CPU habituales, lo que según afirma se traduce en un menor coste por petición. Esto resulta atractivo para desarrolladores que quieren amplia cobertura de modelos sin aprovisionar ni ajustar su propio servicio de inferencia.
La plataforma cubre tareas habituales de generación y comprensión: completado de texto, respuesta a preguntas, clasificación, chat, traducción, generación de imágenes, generación de voz y transcripción de audio. El uso empieza gratis con límites de velocidad, y quien necesita caudal sin restricciones paga un importe pequeño por petición. Los equipos que requieren soporte a medida pueden contactar directamente.
