llama.cpp Phát Hành Bản b11171 Cập Nhật GGML và Sửa Lỗi UBSan
llama.cpp đã phát hành phiên bản b11171, cập nhật thư viện phụ thuộc nội bộ ggml lên phiên bản 0.25.3. Bản vá này sửa lỗi Undefined Behavior Sanitizer (UBSan) trong hàm tính toán kích thước đồ thị `ggml_graph_nbytes`. Việc khắc phục hành vi không xác định (undefined behavior) trong logic tính toán bộ nhớ và đồ thị giúp tăng cường an toàn bộ nhớ và tính ổn định khi chạy suy luận LLM trên nhiều cấu hình phần cứng khác nhau. Là một bản nâng cấp bảo trì định kỳ, nó đảm bảo tính đồng bộ mượt mà với thư viện ggml mới nhất. Bản phát hành giải quyết cụ thể sự cố UBSan xuất hiện trong bản cập nhật ggml 0.25.2 trước khi nhanh chóng nâng lên 0.25.3. Nó đi kèm các tệp thực thi biên dịch sẵn cho nhiều nền tảng và backend, bao gồm macOS, Linux, Windows, Android, CUDA 12/13, ROCm, Vulkan, OpenVINO, SYCL và Snapdragon.
## KIẾN THỨC NỀN
llama.cpp là một thư viện C/C++ hiệu năng cao được thiết kế để chạy các mô hình ngôn ngữ lớn trên phần cứng cá nhân. Dự án dựa vào ggml, một thư viện ma trận C/C++ giúp thực thi các tác vụ học máy hiệu quả. UndefinedBehaviorSanitizer (UBSan) là công cụ biên dịch trong GCC và Clang giúp phát hiện các thao tác mã nguồn không xác định trong quá trình thực thi, từ đó ngăn ngừa sự cố bất ngờ và lỗi bộ nhớ.