Manifest

O Manifest é um gateway LLM de código aberto focado no problema da fiabilidade e não no do modelo. Em vez de exigir que as equipas se padronizem num fornecedor, expõe um único endpoint compatível com OpenAI pelo qual agentes, ambientes de programação e aplicações alcançam OpenAI, Anthropic, Google, planos de subscrição, fornecedores com chave própria, endpoints personalizados e servidores locais como Ollama, LM Studio ou llama.cpp. As regras de encaminhamento e os parâmetros dos modelos configuram-se visualmente por rota, pelo que o comportamento muda sem tocar no código da aplicação.

A funcionalidade de destaque é o Autofix. O projeto cita dados da Datadog segundo os quais cerca de 5% das chamadas à API de LLMs falham em produção, muitas por motivos evitáveis, e o Manifest inspeciona cada pedido antes de chegar ao fornecedor para reparar payloads mal formados. Combinado com alternativas automáticas quando um fornecedor se degrada, registo completo de pedidos e respostas e desagregação de custos por agente, chave e fornecedor, o gateway funciona como plano de controlo da inferência e não como simples proxy.

O projeto é totalmente código aberto, com edição autoalojada em Docker e opção de nuvem gerida para integração mais rápida, apoiado por uma comunidade e por um catálogo de erros que classifica falhas comuns de fornecedores. O preço do nível gerido está na página de preços do site, enquanto o gateway de código aberto é gratuito na sua própria infraestrutura.