Bản phát hành llama.cpp b11514 sửa lỗi Fast Walsh-Hadamard Transform trên MUSA
llama.cpp đã phát hành bản dựng b11514, mang đến bản sửa lỗi tập trung cho thuật toán Fast Walsh-Hadamard Transform (FWHT) trên backend MUSA thông qua PR #30167. Bản cập nhật này đảm bảo tính toán chính xác trên nền tảng phần cứng Moore Threads mà không làm thay đổi các API cốt lõi. Bản phát hành bảo trì định kỳ này đảm bảo độ ổn định và tính chính xác về mặt toán học khi chạy các mô hình llama.cpp trên GPU Moore Threads của Trung Quốc. Điều này thể hiện cam kết của llama.cpp trong việc hỗ trợ đa dạng các kiến trúc GPU chuyên dụng và thay thế trên toàn thế giới. Bản phát hành chỉ tập trung giải quyết sự cố #30167 trong mã nguồn kernel FWHT của MUSA. Các tệp thực thi biên dịch sẵn đã được cập nhật cho các mục tiêu phân phối tiêu chuẩn như Linux, Windows, macOS, Android và thiết bị Snapdragon.
## KIẾN THỨC NỀN
llama.cpp là một khung suy luận C/C++ mã nguồn mở phổ biến được tối ưu hóa để chạy các mô hình LLM trên phần cứng người dùng và doanh nghiệp. MUSA là nền tảng tính toán GPU và khung phần mềm do Moore Threads phát triển như một giải pháp thay thế cho CUDA của NVIDIA. Fast Walsh-Hadamard Transform (FWHT) là một thuật toán tính toán hiệu quả được sử dụng trong các phép toán và một số kỹ thuật nén hoặc lượng hóa mô hình trong học sâu.