Apple công bố ma trận năng lực AI trên thiết bị cho toàn bộ dòng sản phẩm
Tại Hội nghị Người dùng Jamf (JNUC), Apple đã trình bày một bảng ma trận phần cứng chính thức thể hiện khả năng suy luận AI trên thiết bị cho toàn bộ dòng sản phẩm. Bảng chi tiết chỉ ra giới hạn số lượng tham số kích hoạt từ 14 tỷ trên iPhone và iPad lên tới 1,6 nghìn tỷ trên cụm Mac Studio 2TB. Bảng ma trận chính thức này cung cấp cho các nhà phát triển và đội ngũ CNTT doanh nghiệp những chỉ số phần cứng rõ ràng khi tối ưu hóa và triển khai các mô hình ngôn ngữ lớn (LLM) cục bộ trên các thiết bị Apple. Nó nhấn mạnh cách Kiến trúc Bộ nhớ Hợp nhất (UMA) của Apple giúp vận hành các mô hình AI nhiều tham số trực tiếp trên phần cứng mà không cần phụ thuộc vào đám mây. Theo Apple, các thiết bị di động như iPhone và iPad (tối đa 16 GB RAM, băng thông 76 GB/s) có thể chạy các mô hình lên tới 14 tỷ tham số kích hoạt cho các tác vụ như Siri và xử lý hình ảnh. Trong khi đó, các máy trạm chuyên nghiệp như MacBook Pro (128 GB RAM) và Mac Studio (512 GB RAM) hỗ trợ tương ứng lên tới 120 tỷ và 480 tỷ tham số kích hoạt.
## KIẾN THỨC NỀN
Jamf Nation User Conference (JNUC) là sự kiện thường niên do Jamf tổ chức, tập trung vào công tác quản lý và bảo mật thiết bị Apple trong doanh nghiệp. Trong kiến trúc mô hình Mixture-of-Experts (MoE) hiện đại, tham số kích hoạt (activated parameters) là phần tham số thực sự được tính toán trong mỗi bước suy luận, cho phép phần cứng chạy các mô hình lớn một cách hiệu quả hơn.