Bản phát hành llama.cpp b10903 sửa lỗi bộ nhớ trong backend Vulkan
Bản phát hành llama.cpp b10903 giải quyết điều kiện data race trong vòng lặp bên trong của hàm argsort và sửa lỗi truy cập bộ nhớ ngoài phạm vi (OOB) trong argsort_large thuộc backend Vulkan (PR #28705). Việc khắc phục các lỗi bộ nhớ giúp tăng cường độ ổn định cho người dùng chạy các LLM trên GPU đa nền tảng thông qua Vulkan, đồng thời giúp đảm bảo quy trình kiểm thử tích hợp liên tục (CI) hoạt động tin cậy. Điều kiện data race trong argsort được phát hiện nhờ Vulkan Validation Layers (VVL), trong khi lỗi truy cập OOB trong argsort_large được và vá nhằm loại bỏ nguy cơ gây lỗi kiểm thử CI tự động dù khó tái hiện ở môi trường cục bộ.
## KIẾN THỨC NỀN
llama.cpp là một framework mã nguồn mở C/C++ phổ biến để chạy suy luận LLM cục bộ trên nhiều backend phần cứng như CPU, CUDA và Vulkan. Vulkan là một API tính toán và đồ họa cấp thấp cho phép nhà phát triển kiểm soát trực tiếp GPU, trong đó các công cụ như Vulkan Validation Layers (VVL) hỗ trợ phát hiện các lỗi đồng bộ luồng và truy cập bộ nhớ bất hợp lệ.