Zhongcheng Hualong ra mắt chip suy luận AI HL200 với hiệu suất 5,12 TFLOPS/W
Công ty phần cứng Trung Quốc Zhongcheng Hualong đã ra mắt chip suy luận AI HL200, tuyên bố đạt hiệu suất năng lượng 5,12 TFLOPS/W cùng khả năng hỗ trợ gốc cho các định dạng độ chính xác thấp FP4 và FP8. Công ty cũng giới thiệu giải pháp cụm máy tính có khả năng mở rộng lên tới 10.240 card. Sự ra mắt này đánh dấu một bước tiến quan trọng trong hệ sinh thái phần cứng AI nội địa của Trung Quốc, nhằm giảm sự phụ thuộc vào chip nước ngoài bằng cách cung cấp khả năng suy luận hiệu suất cao. Việc hỗ trợ các cụm máy tính quy mô lớn đáp ứng nhu cầu ngày càng tăng trong việc mở rộng các mô hình ngôn ngữ lớn và các tác vụ AI phức tạp. HL200 cung cấp sức mạnh tính toán trên mỗi card đạt 4 PFLOPS cho định dạng FP4, 2 PFLOPS cho FP8 và 0,5 PFLOPS cho FP16/BF16. Giải pháp cụm siêu nút của nó hỗ trợ 64 GPU mỗi tủ máy và cho phép xếp chồng dọc lên tới 1.024 card.
## KIẾN THỨC NỀN
Chip suy luận AI là các bộ xử lý chuyên dụng được tối ưu hóa để chạy các mô hình học máy đã được huấn luyện thay vì huấn luyện chúng. Các định dạng độ chính xác thấp như FP4 (số thực dấu phẩy động 4-bit) ngày càng được áp dụng nhiều trong phần cứng AI hiện đại để tăng tốc độ suy luận, giảm mức sử dụng bộ nhớ và cải thiện hiệu suất năng lượng.