~/AI INFRASTRU/deepseek-open-sources-ai-infrastructure-software-stack-for-huawei-ascend-hardware

DeepSeek Mở Mã Nguồn Bộ Hạ Tầng Phần Mềm AI Cho Nền Tảng Huawei Ascend

DeepSeek đã chính thức mở mã nguồn các thành phần hạ tầng AI cốt lõi được chuyển mã cho nền tảng Huawei Ascend, bao gồm trình biên dịch ngôn ngữ TileLang cùng các thư viện hiệu năng cao như DeepGEMM, DeepEP, FlashMLA, TileKernels và DeepSelect. Các thành phần này tương đương trực tiếp với các thư viện CUDA trên NVIDIA và đạt hiệu suất tiệm cận giới hạn phần cứng của chip Ascend. Bằng cách mang lại khả năng huấn luyện và suy luận mô hình ngôn ngữ lớn (LLM) hiệu năng cao lên phần cứng Huawei Ascend, DeepSeek giúp giảm sự phụ thuộc vào GPU NVIDIA và cung cấp bộ phần mềm khả thi cho các nền tảng phần cứng thay thế. Điều này thu hẹp khoảng cách phần mềm tối ưu hóa cho các chip tăng tốc AI nội địa Trung Quốc, giúp huấn luyện hiệu quả các mô hình lớn như DeepSeek V4 trên hạ tầng không phải của NVIDIA. TileLang đóng gói các chỉ thị cấp thấp Ascend C của Huawei thành ngôn ngữ lập trình cấp cao, giúp đơn giản hóa logic mã nguồn và đẩy nhanh tốc độ phát triển kernel mà không làm giảm tốc độ thực thi. Các thư viện mở mã nguồn đi kèm giúp tối ưu hóa các tác vụ AI then chốt: DeepGEMM đảm nhận phép toán ma trận, DeepEP tăng tốc truyền thông liên thiết bị, FlashMLA cải thiện hiệu suất chú ý thưa (sparse attention) trong ngữ cảnh dài, TileKernels xử lý tính toán vectơ và DeepSelect tăng tốc lọc dữ liệu.

## KIẾN THỨC NỀN

Việc phát triển các toán tử (operator) tùy chỉnh cho chip AI chuyên dụng như Huawei Ascend thường phụ thuộc vào các ngôn ngữ cấp thấp như Ascend C (dựa trên C/C++), vốn đòi hỏi nhiều công sức kỹ thuật để đạt giới hạn phần cứng so với hệ sinh thái CUDA đã trưởng thành của NVIDIA. TileLang là ngôn ngữ lập trình chuyên biệt (DSL) được thiết kế để đơn giản hóa việc viết kernel GPU và NPU dựa trên mô hình lập trình dạng ô (tiled programming). Ngoài ra, FlashMLA là thư viện chú ý được tối ưu hóa riêng cho kiến trúc Multi-head Latent Attention (MLA), giúp các mô hình DeepSeek xử lý ngữ cảnh hiệu quả với mức tiêu thụ tài nguyên tối ưu.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Infrastructure#DeepSeek#Huawei Ascend#Open Source#Compilers

$ subscribe --daily

DeepSeek Mở Mã Nguồn Bộ Hạ Tầng Phần Mềm AI Cho Nền Tảng Huawei Ascend | Daily News