Huawei Ra Mắt Card Mạng AI 800G Và SSD KVU Tại WAIC 2026
Tại hội nghị WAIC 2026, Huawei đã lần đầu tiên trình diễn trọn bộ các mô-đun tính toán của mình, nổi bật là card mạng AI 800G SP560 đầu tiên tại Trung Quốc và giải pháp SSD KVU chuyên dụng. Giải pháp SSD KVU này được thiết kế để tối ưu hóa việc chuyển tải (offloading) bộ nhớ đệm KV Cache phục vụ cho quá trình huấn luyện và suy luận AI. Các phát triển phần cứng này giải quyết nút thắt cổ chai "bức tường bộ nhớ" (memory wall) quan trọng trong hạ tầng AI bằng cách chuyển tải dữ liệu KV Cache tiêu tốn nhiều bộ nhớ sang ổ lưu trữ tốc độ cao, đồng thời cho phép kết nối mạng quy mô siêu lớn lên tới 100.000 nút. Điều này giúp giảm chi phí tính toán và nâng cao hiệu suất sử dụng NPU khi triển khai các mô hình ngôn ngữ lớn (LLM). Card mạng 800G SP560 hỗ trợ giao tiếp bus kép Lingqu và PCIe, cho phép truyền dữ liệu trực tiếp đến bộ nhớ GPU/NPU để giảm độ trễ. Trong khi đó, SSD KVU tận dụng giao thức Lingqu và tài nguyên CPU tích hợp để đạt tốc độ đọc tuần tự lên tới 40GB/s và đọc ngẫu nhiên 5 triệu IOPS.
## KIẾN THỨC NỀN
Trong quá trình suy luận của mô hình ngôn ngữ lớn, KV Cache lưu trữ các khóa (keys) và giá trị (values) trước đó để tránh tính toán lặp lại, nhưng nó nhanh chóng tiêu thụ lượng lớn bộ nhớ GPU đắt đỏ. Để vượt qua "bức tường bộ nhớ" này, các hệ thống chuyển tải KV Cache sang các ổ SSD tốc độ cao. Giao thức độc quyền "Lingqu" của Huawei là một giao thức kết nối được thiết kế cho các siêu nút (supernodes) nhằm hỗ trợ truyền thông băng thông rộng giữa các đơn vị tính toán và lưu trữ.