llama.cpp Phát Hành Phiên Bản b10952 Sửa Lỗi Bộ Nhớ Scratchpad SYCL oneDNN
llama.cpp phiên bản b10952 vừa được phát hành với bản sửa lỗi tập trung cho backend thực thi SYCL. Bản cập nhật này khắc phục sự cố trong đó việc xử lý bộ nhớ scratchpad của oneDNN vi phạm thứ tự giải phóng bộ nhớ đệm. Bản sửa lỗi này đảm bảo việc quản lý bộ nhớ ổn định và chính xác khi chạy llama.cpp trên các bộ tăng tốc phần cứng dùng SYCL và oneDNN, chẳng hạn như GPU Intel. Điều này giúp ngăn ngừa nguy cơ hỏng bộ nhớ hoặc sụp đổ ứng dụng trong quá trình suy luận kéo dài. Phiên bản này đi kèm các gói thực thi biên dịch sẵn tự động cho các hệ điều hành Windows, Linux, macOS và Android trên nhiều kiến trúc CPU và GPU. Đáng chú ý, các bản dựng dành cho macOS KleidiAI và một số cấu hình openEuler vẫn tạm thời bị vô hiệu hóa.
## KIẾN THỨC NỀN
llama.cpp là một công cụ mã nguồn mở C/C++ hiệu năng cao được thiết kế để chạy các mô hình ngôn ngữ lớn trên nhiều loại phần cứng khác nhau. SYCL là mô hình lập trình đa nền tảng dựa trên C++ dành cho tính toán dị thể trên các bộ tăng tốc phần cứng, còn oneDNN là thư viện tối ưu hóa học sâu thường dùng kèm với SYCL trên kiến trúc Intel. Bộ nhớ scratchpad đóng vai trò làm không gian làm việc tạm thời trong các phép toán mạng thần kinh và cần được cấp phát cũng như giải phóng theo thứ tự nghiêm ngặt để tránh rò rỉ bộ nhớ hoặc lỗi thời gian chạy.