ACEMAGIC Ra Mắt Máy Trạm Mini F9A Trang Bị 192GB RAM Chạy LLM 300B Tại Chỗ
ACEMAGIC đã mở bán máy trạm mini F9A tại Trung Quốc với vi xử lý AMD Ryzen AI Max+ PRO 495, 192GB RAM và SSD 2TB. Có giá ưu đãi đợt đầu 49.998 Nhân dân tệ, hệ thống nhỏ gọn này cho phép phân bổ tới 160GB bộ nhớ hợp nhất làm VRAM để chạy cục bộ các mô hình ngôn ngữ lớn (LLM) lên tới 300 tỷ tham số. Hệ thống cao cấp này cho thấy kiến trúc bộ nhớ hợp nhất trên các APU hiện đại cho phép các máy tính mini nhỏ gọn vận hành các mô hình AI khổng lồ ngay tại chỗ. Điều này mang đến cho các nhà phát triển và nghiên cứu AI một giải pháp thay thế cho các cụm GPU máy chủ đắt đỏ hoặc hạ tầng đám mây để thử nghiệm và triển khai mô hình ngoại tuyến. Nằm trong lớp vỏ nhôm dung tích 2 lít, hệ thống sử dụng thiết kế tản nhiệt 5 ống dẫn nhiệt hỗ trợ công suất đỉnh 140W (120W ổn định). Cấu hình kết nối bao gồm cổng mở rộng OCuLink, hai cổng USB-C 40Gbps, Wi-Fi 7, Bluetooth 5.4 và hai cổng mạng 2.5GbE LAN.
## KIẾN THỨC NỀN
Việc chạy các mô hình ngôn ngữ lớn (LLM) tại chỗ đòi hỏi dung lượng bộ nhớ đồ họa (VRAM) rất lớn để lưu trữ các tham số mô hình, điều mà các card đồ họa tiêu dùng thông thường thường thiếu. Kiến trúc bộ nhớ hợp nhất giải quyết nút thắt này bằng cách cho phép nhân đồ họa tích hợp của vi xử lý chia sẻ bộ nhớ RAM dung lượng cao của hệ thống làm VRAM. Ngoài ra, các giao diện như OCuLink cung cấp kết nối PCIe băng thông cao để gắn thêm GPU rời bên ngoài khi cần mở rộng hiệu năng.