~/HARDWARE/apple-unveils-mac-studio-with-m5-max-ultra-and-512gb-unified-memory

Apple ra mắt Mac Studio mới với chip M5 Max/Ultra và bộ nhớ thống nhất 512GB

Apple đã công bố các máy tính để bàn Mac Studio mới được trang bị chip M5 Max và M5 Ultra. Các mẫu máy mới này hỗ trợ bộ nhớ thống nhất lên đến 512GB, giúp tăng đáng kể dung lượng cho các cấu hình phần cứng cục bộ. Việc mở rộng lên 512GB bộ nhớ thống nhất cho phép các nhà phát triển và nghiên cứu chạy các mô hình AI khổng lồ, chẳng hạn như các LLM có hơn 400 tỷ tham số, ngay trên một máy tính để bàn duy nhất. Điều này giúp giảm sự phụ thuộc vào hạ tầng đám mây đắt đỏ hoặc các cấu hình đa GPU phức tạp. Kiến trúc bộ nhớ thống nhất cho phép GPU truy cập trực tiếp vào trọng số mô hình từ cùng một vùng nhớ với CPU, loại bỏ các nút thắt cổ chai khi truyền dữ liệu. Ngoài ra, đợt nâng cấp phần cứng này cũng đón đầu xu hướng người dùng kết nối chuỗi (daisy-chaining) hoặc tạo cụm nhiều máy Mac để suy luận AI phân tán.

## KIẾN THỨC NỀN

Các chip Apple Silicon sử dụng Kiến trúc Bộ nhớ Thống nhất (UMA), nơi CPU và GPU chia sẻ chung một vùng nhớ băng thông cao duy nhất. Thiết kế này mang lại lợi thế lớn cho các Mô hình Ngôn ngữ Lớn (LLM), vốn đòi hỏi lượng VRAM khổng lồ để lưu trữ trọng số mô hình trong quá trình suy luận. Trước đây, việc chạy các mô hình cực lớn cục bộ yêu cầu phải kết nối cụm nhiều máy tính hoặc mua các GPU chuyên dụng dành cho doanh nghiệp.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Hardware#Apple Silicon#Local LLMs#AI Infrastructure

$ subscribe --daily

Apple ra mắt Mac Studio mới với chip M5 Max/Ultra và bộ nhớ thống nhất 512GB | Daily News