O Orchestration AI se baseia em um modelo de agente em camadas. Cada agente é composto por camadas combináveis que carregam contexto, regras de segurança e ferramentas, e você pode trocar o LLM subjacente por camada sem reescrever sua lógica. A autorização usa passkeys, de modo que não ficam chaves de acesso de longa duração no código do cliente.
Os agentes interagem com o mundo externo por meio de serviços: manipuladores de ferramentas tipados que o motor descobre no momento da inferência e repassa ao modelo. Isso permite consultar bancos de dados, chamar APIs reais, enviar e-mails ou delegar a outro agente. Os gatilhos podem ser prompts do usuário, webhooks, e-mail de entrada ou agendas, e as respostas são transmitidas por WebSocket para interfaces e painéis ao vivo.
Para equipes que precisam de controle, os scripts de agente permitem interceptar e reescrever mensagens antes de chegarem ao modelo, transformar respostas na saída, auditar e bloquear chamadas de ferramentas e declarar ferramentas em JavaScript puro. Pacotes npm são empacotados automaticamente e um provedor oficial de Terraform permite gerenciar agentes, orquestrações, controle de acesso e armazenamento como infraestrutura versionada em CI/CD.