Not Diamond

Not Diamond giải quyết vấn đề quen thuộc của các đội xây dựng agent viết mã: chọn giữa hàng chục mô hình, mức suy luận và chiến lược ngữ cảnh là việc khó, nên phần lớn lập trình viên mặc định dùng mô hình mạnh nhất và đắt nhất cho mọi tác vụ. Bộ định tuyến của Not Diamond phân tích ngữ nghĩa payload, trạng thái KV cache, tín hiệu phản hồi ngầm, kết quả phiên, cấu trúc sub-agent và các sự kiện nén ngữ cảnh, rồi đề xuất cả mô hình lẫn ngân sách suy luận cho từng bước trong phiên.

Công ty nhấn mạnh đây là bộ định tuyến, không phải gateway. Nó tích hợp với gateway và harness agent bạn đang chạy, giúp tránh bị khóa vào nhà cung cấp và giữ việc thực thi trong hạ tầng của bạn. Khuyến nghị cũng có thể dùng định tuyến bảo vệ quyền riêng tư, khi quyết định chỉ dựa trên siêu dữ liệu dẫn xuất và đặc trưng tính cục bộ, nên prompt và đầu ra không bị lộ.

Not Diamond cho biết các đội điển hình tiết kiệm ít nhất 20-40% chi phí mà không giảm chất lượng đo được so với tầm cao, đồng thời chia sẻ câu chuyện của khách hàng như OpenRouter, Replicated và Rootly về cải thiện độ chính xác sau khi áp dụng. Sản phẩm tuân thủ SOC 2 và ISO 27001, cung cấp SLA và hỗ trợ 24/7 cho doanh nghiệp, với học tăng cường liên tục giúp cải thiện khuyến nghị theo thời gian.