Moore Threads Công Bố Hỗ Trợ Day-0 Cho Mô Hình GLM-5.3-Flash Của Zhipu AI
Moore Threads đã công bố hỗ trợ "Day-0" và tối ưu hóa ngay lập tức cho mô hình GLM-5.3-Flash mới ra mắt của Zhipu AI trên GPU MTT S5000 và ngăn xếp phần mềm MUSA. Đội ngũ kỹ thuật đã nhanh chóng điều chỉnh kiến trúc lai của mô hình, đặc biệt là tối ưu hóa cơ chế chú ý tuyến tính KDA (Kimi Delta Attention). Sự thích ứng nhanh chóng này thể hiện sự linh hoạt của hệ sinh thái GPU nội địa Trung Quốc trong việc hỗ trợ các mô hình AI tiên tiến của địa phương ngay khi vừa ra mắt. Điều này làm nổi bật tính khả thi ngày càng cao của các ngăn xếp phần cứng-phần mềm nội địa như MUSA để thay thế cho các nền tảng phổ biến như CUDA của NVIDIA. Để tối ưu hóa cơ chế chú ý tuyến tính KDA, Moore Threads đã sử dụng công cụ tối ưu hóa toán tử MATE của mình để triển khai các toán tử tùy chỉnh như cập nhật ma trận trạng thái và quét song song phân khối. Các tối ưu hóa này được tích hợp với hệ thống quản lý bộ nhớ đệm SGLang-MUSA nhằm nâng cao hiệu suất khi suy luận với ngữ cảnh dài.
## KIẾN THỨC NỀN
Moore Threads là một nhà phát triển GPU của Trung Quốc đã tạo ra MUSA, một ngăn xếp phần mềm độc quyền được thiết kế để thay thế cho CUDA của NVIDIA. Mô hình GLM-5.3-Flash sử dụng Kimi Delta Attention (KDA), một cơ chế chú ý tuyến tính hiệu quả về mặt phần cứng, áp dụng cơ chế cổng phân kênh chi tiết để duy trì trạng thái bộ nhớ có kích thước cố định bất kể độ dài chuỗi.