Nextorage công bố aiDAPTIV Station giúp chạy mô hình AI lớn trên PC có 32GB RAM
Nextorage, một công ty con của Phison, đã công bố "aiDAPTIV Station", một thiết bị phần cứng gắn ngoài được thiết kế để chạy các mô hình ngôn ngữ lớn như GPT-OSS-120B của OpenAI trên PC chỉ có 32GB RAM. Thiết bị này kết nối qua cổng USB-C và sử dụng công nghệ aiDAPTIV của Phison để gộp động bộ nhớ DRAM cục bộ và bộ nhớ flash NAND độ bền cao thành bộ nhớ ảo. Thiết bị phần cứng này có thể giúp phổ biến việc chạy cục bộ các mô hình mã nguồn mở dung lượng lớn trên máy tính xách tay và PC phổ thông mà không cần đến các GPU doanh nghiệp đắt đỏ có VRAM khủng. Tuy nhiên, hiệu năng thực tế và độ trễ khi chạy suy luận qua giao tiếp USB-C sử dụng bộ nhớ flash NAND vẫn là những thách thức lớn. Thiết bị aiDAPTIV Station hỗ trợ hệ điều hành Windows và Ubuntu Linux, và Nextorage có kế hoạch ra mắt sản phẩm này tại Nhật Bản vào cuối năm nay cùng với các gói phần mềm dựng sẵn. Thiết bị tận dụng công nghệ aiDAPTIV của Phison để phân bổ tài nguyên động giữa DRAM của hệ thống và bộ nhớ NAND độ bền cao gắn ngoài.
## KIẾN THỨC NỀN
Việc chạy các mô hình ngôn ngữ lớn (LLM) cục bộ thường đòi hỏi lượng lớn bộ nhớ GPU tốc độ cao (VRAM) hoặc RAM hệ thống, vốn rất đắt đỏ đối với phần cứng tiêu dùng. Công nghệ aiDAPTIV của Phison giải quyết vấn đề này bằng cách sử dụng ổ cứng SSD/NAND flash độ bền cao làm phần mở rộng cho bộ nhớ hệ thống, cho phép tải các mô hình lớn hơn thông qua việc hoán đổi dữ liệu giữa DRAM và bộ nhớ flash. GPT-OSS-120B là mô hình hỗn hợp chuyên gia (MoE) mã nguồn mở được OpenAI phát hành vào cuối năm 2025.