Personal GPT

Personal GPT thuộc nhóm ứng dụng AI đánh đổi sự tiện lợi của đám mây để lấy quyền kiểm soát. Thay vì gửi prompt tới máy chủ từ xa, ứng dụng nạp các mô hình mã nguồn mở đã lượng tử hóa như DeepSeek R1 Distill, Llama 3.3, Qwen3, Phi 4 hay Google Gemma trực tiếp lên phần cứng Apple và tạo câu trả lời ngay tại đó. Cách thiết kế này mang lại ba hệ quả thực tế: hội thoại không bị nhà cung cấp ghi lại hay xem xét, ứng dụng vẫn chạy trên máy bay hay ở vùng xa, và việc dùng nhiều không phát sinh hóa đơn API theo token.

Ứng dụng bao phủ toàn bộ hệ sinh thái Apple. Một lần mua mở khóa trên iPhone, iPad và Mac bạn sở hữu, và tính năng chia sẻ gia đình có thể mở rộng cho tối đa sáu người. Trên macOS, ứng dụng còn tích hợp dịch vụ văn bản của hệ thống: bạn chọn đoạn văn bản trong gần như mọi ứng dụng, nhấp chuột phải và nó sẽ được viết lại, tóm tắt hoặc sửa ngay trên thiết bị. Trên iOS, ứng dụng kết nối với Siri và app Lệnh (Shortcuts), cho phép đưa bước AI vào các quy trình tự động tóm tắt văn bản, soạn nội dung hoặc chuyển kết quả sang ứng dụng khác qua đặc tả x-callback-url.

Sản phẩm do một nhóm nhỏ tự gây vốn tại EU phát triển và bán theo hình thức mua một lần thay vì đăng ký. Ứng dụng có thư viện mô hình tải về phong phú kèm hướng dẫn mô hình nào phù hợp với thiết bị, dung lượng bộ nhớ hay nhu cầu cụ thể, đồng thời dùng phương pháp lượng tử hóa OmniQuant và GPTQ nhằm giữ chất lượng đầu ra khi giảm dung lượng bộ nhớ. Người đánh giá nên xem đây là lựa chọn ưu tiên cục bộ thay vì bản thay thế hoàn toàn cho các mô hình tiên tiến lớn nhất trên đám mây.