llama.cpp Phát hành Bản b11467 Bổ sung Header C++ Cho imatrix
llama.cpp đã phát hành phiên bản b11467, mang đến bản vá mã nguồn bổ sung header chuẩn <clocale> cho hàm std::setlocale trong công cụ imatrix. Việc khai báo bổ sung header rõ ràng đảm bảo quá trình biên dịch C++ diễn ra nhất quán trên nhiều trình biên dịch và nền tảng khác nhau. Điều này giúp ngăn ngừa các lỗi biên dịch không đáng có cho các nhà phát triển và người dùng tự build llama.cpp từ mã nguồn. Bản vá đến từ PR #30079 do người dùng GitHub dazzywi đồng tác giả để khắc phục các khai báo bị thiếu mà std::setlocale yêu cầu. Ngoài ra, ghi chú phát hành cho thấy các tệp thực thi biên dịch sẵn cho macOS Apple Silicon bật tối ưu hóa KleidiAI vẫn tiếp tục bị tạm dừng.
## KIẾN THỨC NỀN
llama.cpp là một framework C/C++ mã nguồn mở hiệu năng cao dùng để chạy suy luận mô hình ngôn ngữ lớn (LLM) cục bộ trên nhiều loại phần cứng. Công cụ imatrix (ma trận độ quan trọng) trong llama.cpp tính toán thống kê kích hoạt token nhằm duy trì độ chính xác của mô hình trong quá trình lượng hóa GGUF. Trong C++, các hàm xử lý định dạng địa phương như std::setlocale yêu cầu khai báo header <clocale>, nếu thiếu thì các trình biên dịch nghiêm ngặt sẽ báo lỗi.