~/APPLE SILICO/apple-debuts-a20-pro-chip-with-32-core-neural-engine-and-96

Apple ra mắt chip A20 Pro với Neural Engine 32 nhân và bus bộ nhớ 96-bit

Apple đã giới thiệu hệ thống trên chip (SoC) A20 Pro sở hữu GPU 7 nhân, Neural Engine 32 nhân (gấp đôi thế hệ trước) và bus bộ nhớ LPDDR5X 96-bit rộng hơn. Được sản xuất trên tiến trình 2nm, con chip mới đạt băng thông bộ nhớ khoảng 115 GB/s, tăng 50% so với kiến trúc 64-bit trước đây. Băng thông bộ nhớ là điểm nghẽn hiệu năng chính khi chạy các mô hình ngôn ngữ lớn (LLM) cục bộ trên phần cứng di động. Bằng cách tăng 50% băng thông bộ nhớ cùng với việc nhân đôi Neural Engine, Apple nâng cao đáng kể năng lực xử lý AI tại biên (edge AI) cho các mô hình phức tạp ngay trên thiết bị. Việc mở rộng bus bộ nhớ từ 64-bit lên 96-bit trên tiến trình 2nm tiên tiến đại diện cho một sự đầu tư đắt đỏ về diện tích chip cho hạ tầng bộ nhớ. Ngoài ra, việc tăng số nhân Neural Engine chuyên dụng từ 16 lên 32 mang lại năng suất toán ma trận cao hơn nhiều cho các tác vụ chạy qua Core ML.

## KIẾN THỨC NỀN

Apple Neural Engine (ANE) là bộ tích tốc phần cứng chuyên dụng được tích hợp trong các vi xử lý Apple Silicon nhằm xử lý hiệu quả các mô hình máy học trực tiếp trên thiết bị. Đối với các tác vụ AI tạo sinh, hiệu năng tổng thể phụ thuộc rất lớn vào băng thông bộ nhớ hợp nhất, yếu tố quyết định tốc độ nạp các tham số mô hình vào các nhân xử lý.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Apple Silicon#Edge AI#Hardware#Local LLMs#Memory Bandwidth

$ subscribe --daily

Apple ra mắt chip A20 Pro với Neural Engine 32 nhân và bus bộ nhớ 96-bit | Daily News