Auriko

Auriko positioniert sich als Control-Plane für KI-Inferenz und nicht nur als Proxy. Sie behalten Ihren bestehenden SDK-Code und ändern lediglich Basis-URL und Schlüssel; die Plattform übernimmt dann einheitlichen Modellzugriff, Pass-through unter Beibehaltung anbieterspezifischer Funktionen, automatisches Failover und global verteiltes Edge-Routing für geringere Latenz und höheren Durchsatz.

Der eigentliche Unterschied liegt in der Routing-Engine. Statt Listenpreise zu vergleichen, modelliert sie, wie eine konkrete Workload mit den Preisstufen und Prompt-Caching-Mechanismen der einzelnen Anbieter interagiert, und leitet jede Anfrage an den Anbieter weiter, der für dieses Verkehrsmuster tatsächlich am günstigsten ist. Sie können explizite Ziele angeben, etwa maximale Time-to-First-Token, eine Durchsatzuntergrenze, eine Kostengrenze pro Million Input-Tokens, ausschließlich Anbieter ohne Datenaufbewahrung oder ausschließlich strukturierte Ausgaben mit aktiviertem Fallback.

Operativ deckt die Plattform außerdem Key-Orchestrierung (eigene Schlüssel, Plattformschlüssel oder beides), Kapazitätsbewusstsein, Budgetlimits und Alarme auf Workspace- und Key-Ebene, SSO/SAML sowie Rechnungsabrechnung für Teams ab. Derzeit befindet sie sich in einer Private Beta, und selbst hostende Anbieter können ihre Inferenzkapazität zu ihrem eigenen Preis listen.