Manifest

Manifest est une passerelle LLM open source centrée sur le problème de la fiabilité plutôt que sur celui du modèle. Plutôt que d'imposer un fournisseur unique, elle expose un point d'accès compatible OpenAI par lequel agents, environnements de code et applications atteignent OpenAI, Anthropic, Google, des abonnements, des fournisseurs BYOK, des endpoints personnalisés et des serveurs locaux comme Ollama, LM Studio ou llama.cpp. Les règles de routage et les paramètres de modèle se configurent visuellement par route, ce qui permet de changer le comportement sans toucher au code applicatif.

Sa fonction phare est Autofix. Le projet cite des données Datadog selon lesquelles environ 5 % des appels d'API LLM échouent en production, souvent pour des raisons évitables, et Manifest inspecte chaque requête avant le fournisseur pour réparer à la volée les charges mal formées. Associé aux replis automatiques en cas de dégradation d'un fournisseur, à la journalisation complète des requêtes et réponses et à la décomposition des coûts par agent, clé et fournisseur, la passerelle agit comme un plan de contrôle de l'inférence, pas comme un simple proxy.

Le projet est entièrement open source, avec une édition auto-hébergée Docker et une option cloud managée pour un démarrage plus rapide, soutenu par une communauté et un catalogue d'erreurs classant les échecs courants des fournisseurs. Le tarif de l'offre managée figure sur la page de prix, tandis que la passerelle open source reste gratuite sur votre infrastructure.