Portkey nằm giữa ứng dụng và các nhà cung cấp mô hình, đóng vai trò mặt phẳng điều khiển lưu lượng AI. Một API hợp nhất cho phép truy cập danh mục LLM rộng lớn, với tự động fallback, cân bằng tải, thử lại và timeout được xử lý ở tầng gateway, nên việc đổi hoặc thêm nhà cung cấp không cần sửa mã ứng dụng. Virtual key kèm ngân sách và giới hạn tốc độ cho phép chia sẻ thông tin xác thực mà không lộ khóa gốc.
Trên nền định tuyến, Portkey bổ sung khả năng quan sát và quản trị. Log, trace, phản hồi, metadata tùy chỉnh và bộ lọc giúp thấy rõ mô hình hành xử thế nào trên production, còn cache giảm chi phí cho prompt lặp lại. Guardrail, mẫu đánh giá và quản lý phiên bản prompt giữ đầu ra và thay đổi trong tầm kiểm soát, còn bản triển khai doanh nghiệp bổ sung SSO, phân quyền theo vai trò, private cloud hoặc VPC, cùng các chuẩn như SOC 2, ISO 27001, GDPR, HIPAA.
Portkey có ba hình thức: dịch vụ được host, gateway mã nguồn mở tự host và triển khai doanh nghiệp. Giá công khai bắt đầu với gói developer miễn phí, gói production 49 USD/tháng và giá doanh nghiệp tùy chỉnh; nền tảng hiện cũng được định vị là PRISMA AIRS AI Gateway cho khách hàng doanh nghiệp.