Axelera AI Ra Mắt Chip AIPU Europa 629 TOPS Cho Suy Luận AI Rìa
Công ty khởi nghiệp Hà Lan Axelera AI đã chính thức mở bán chip AIPU thế hệ thứ hai Europa, cung cấp hiệu năng tính toán AI lên tới 629 TOPS với mức tiêu thụ điện năng 45W. Hệ thống trên một vi mạch (SoC) này tích hợp 8 lõi xử lý AI chuyên dụng kết hợp với 16 lõi xử lý vectơ RISC-V. Axelera AI tuyên bố Europa mang lại tốc độ xử lý token trên mỗi watt gấp 6 lần so với các giải pháp GPU tiêu chuẩn và gấp hơn 8 lần trên mỗi chi phí đầu tư so với đối thủ cạnh tranh tốt nhất. Điều này mang lại một lựa chọn phần cứng tiết kiệm điện năng và hiệu quả cao cho máy chủ rìa và các tác vụ doanh nghiệp nhằm giảm chi phí triển khai. Chip Europa hỗ trợ các định dạng dữ liệu INT4, INT8 và INT16, tích hợp 128MB bộ nhớ đệm L2 trên chip, hỗ trợ bộ nhớ LPDDR5 256-bit và 4 làn PCIe Gen4. Axelera AI cung cấp Europa dưới dạng vi chip độc lập cũng như dưới dạng card mở rộng PCIe (AIC).
## KIẾN THỨC NỀN
Quá trình suy luận AI đòi hỏi băng thông tính toán cao để chạy các mô hình đã huấn luyện, nhưng GPU truyền thống thường tiêu thụ nhiều năng lượng khi di chuyển dữ liệu giữa bộ nhớ và các đơn vị xử lý. Axelera AI sử dụng kiến trúc tính toán kỹ thuật số trong bộ nhớ (D-IMC) để thực hiện các phép toán ma trận ngay bên trong bộ nhớ, giúp cải thiện đáng kể hiệu suất năng lượng. Ngoài ra, việc tích hợp các lõi kiến trúc tập lệnh mã nguồn mở RISC-V giúp đem lại khả năng lập trình linh hoạt bên cạnh các tác vụ mạng thần kinh được tăng tốc bằng phần cứng.