Auriko

Auriko se posiciona como um plano de controle para inferência de IA, e não apenas um proxy. Você mantém o código do SDK atual e muda apenas a URL base e a chave; a plataforma então cuida do acesso unificado a modelos, da passagem direta preservando recursos específicos de cada provedor, do failover automático e do roteamento de borda distribuído globalmente para menor latência e maior vazão.

O diferencial está no motor de roteamento. Em vez de comparar preços de token de fachada, ele modela como uma carga de trabalho específica interage com os níveis de preço e os mecanismos de cache de prompt de cada provedor e envia cada requisição ao provedor que é realmente mais barato para aquele padrão de tráfego. Você pode declarar objetivos explícitos, como tempo máximo até o primeiro token, piso de vazão, teto de custo por milhão de tokens de entrada, somente provedores com retenção zero de dados ou somente endpoints de saída estruturada com fallback ativado.

No lado operacional, a plataforma também cobre orquestração de chaves (chaves próprias, chaves da plataforma ou ambas), consciência de capacidade, limites de orçamento e alertas por workspace ou chave de API, SSO/SAML e faturamento por invoice para equipes. Atualmente está em beta privada, e provedores auto-hospedados podem listar sua própria capacidade de inferência pelo preço que definirem.