Perplexity AI Ra Mắt 'Portable Computer' Hỗ Trợ Quy Trình Làm Việc AI Cục Bộ
Perplexity AI đã ra mắt "Portable Computer", phiên bản chạy cục bộ của tác nhân AI đa mô hình, hoạt động trực tiếp trên thiết bị bằng mô hình Qwen 3.8 27B và PPLX 27B tùy chỉnh. Ứng dụng này ban đầu hỗ trợ các hệ thống NVIDIA DGX Spark chạy Linux, và sẽ sớm hỗ trợ Windows cùng card đồ họa GeForce RTX. Sự kiện này đánh dấu bước chuyển dịch sang quy trình làm việc AI kết hợp giữa cục bộ và đám mây, cho phép người dùng xử lý các tác vụ nhạy cảm một cách riêng tư trên thiết bị và chỉ chuyển sang đám mây khi cần thiết. Điều này giải quyết các mối lo ngại ngày càng tăng về quyền riêng tư dữ liệu và độ trễ khi sử dụng trợ lý AI cá nhân và doanh nghiệp. Mô hình PPLX 27B chạy trên thiết bị là phiên bản được tinh chỉnh (post-trained) từ Qwen 3.8 27B của Alibaba, đạt điểm số 85,4% trong các bài kiểm tra hiệu năng công việc thực tế. Ngoài ra, Perplexity đang tối ưu hóa một phiên bản tinh chỉnh của mô hình NVIDIA Nemotron 3.5 Lightning để đạt thời gian phản hồi siêu nhanh.
## KIẾN THỨC NỀN
Các tác nhân AI truyền thống phụ thuộc nhiều vào các Mô hình Ngôn ngữ Lớn (LLM) dựa trên đám mây, điều này có thể gây lo ngại về quyền riêng tư đối với dữ liệu nhạy cảm và tạo ra độ trễ mạng. AI cục bộ hoặc AI biên chạy trên phần cứng chuyên dụng như NVIDIA DGX Spark hoặc GPU RTX cho phép các mô hình chạy trực tiếp trên máy của người dùng, giúp giữ dữ liệu an toàn tại địa phương.