ASRock Industrial Tích Hợp Bộ Tăng Tốc Axelera AI Metis Vào Nền Tảng Edge AI
ASRock Industrial đã hợp tác với Axelera AI để tích hợp bộ tăng tốc Metis AIPU vào các nền tảng AI biên của mình. Các bộ tăng tốc này, hỗ trợ dạng thẻ PCIe AIC hoặc M.2, cung cấp hiệu suất suy luận INT8 lên tới 214 TOPS cho các thiết bị biên. Sự tích hợp này mang công nghệ tính toán trong bộ nhớ kỹ thuật số hiệu năng cao, tiết kiệm điện đến các thiết bị biên, giúp doanh nghiệp dễ dàng triển khai các tác vụ thị giác máy tính và AI trên quy mô lớn. Đây là một giải pháp thay thế tiết kiệm chi phí và năng lượng so với các kiến trúc biên dựa trên GPU truyền thống. Metis AIPU được sản xuất trên tiến trình 5nm của Samsung và hoạt động trong mức tiêu thụ điện năng thấp từ 8 đến 15 watt. Bộ xử lý này sử dụng công nghệ Tính toán trong Bộ nhớ Kỹ thuật số (D-IMC) để giảm thiểu độ trễ truyền dữ liệu và tối đa hóa hiệu suất tính toán.
## KIẾN THỨC NỀN
AI biên (Edge AI) đề cập đến việc chạy các thuật toán trí tuệ nhân tạo cục bộ trên các thiết bị phần cứng thay vì trên các trung tâm dữ liệu đám mây tập trung. Các kiến trúc truyền thống thường gặp phải rào cản 'bức tường bộ nhớ', nơi việc di chuyển dữ liệu giữa bộ xử lý và bộ nhớ tiêu tốn nhiều năng lượng và thời gian. Công nghệ tính toán trong bộ nhớ (IMC) giải quyết nút thắt cổ chai này bằng cách thực hiện các phép tính trực tiếp bên trong mảng bộ nhớ, trong đó IMC kỹ thuật số (D-IMC) cung cấp mật độ tính toán cao cho các tác vụ AI.