Orchestration AI basiert auf einem geschichteten Agentenmodell. Jeder Agent besteht aus kombinierbaren Schichten, die Kontext, Sicherheitsregeln und Tools tragen, und Sie können das zugrunde liegende LLM pro Schicht austauschen, ohne Ihre Logik neu zu schreiben. Die Autorisierung erfolgt per Passkey, sodass keine dauerhaften Zugriffsschlüssel im Client-Code liegen.
Agenten erreichen die Außenwelt über Dienste: typisierte Tool-Handler, die die Engine zur Inferenzzeit erkennt und an das Modell übergibt. So können Agenten Datenbanken abfragen, echte APIs aufrufen, E-Mails senden oder Aufgaben an andere Agenten delegieren. Trigger können Nutzer-Prompts, Webhooks, eingehende E-Mails oder Zeitpläne sein, und Antworten werden per WebSocket gestreamt, ideal für Live-Oberflächen und Dashboards.
Für Teams mit Kontrollbedarf erlauben Agent-Skripte, Nachrichten vor dem Modell abzufangen und umzuschreiben, Antworten auf dem Rückweg zu transformieren, Tool-Aufrufe zu prüfen und zu sperren sowie Tools in reinem JavaScript zu deklarieren. npm-Pakete werden automatisch gebündelt, und ein offizieller Terraform-Provider verwaltet Agenten, Orchestrierungen, Zugriffskontrolle und Speicher als versionierte Infrastruktur in CI/CD.