llama.cpp Phát Hành Phiên Bản b10516 Sửa Lỗi Con Trỏ Null Trên Vulkan
llama.cpp đã phát hành phiên bản b10516, giới thiệu một bản vá nhỏ để ngăn chặn các sự cố liên quan đến con trỏ null. Cụ thể, phiên bản này bổ sung các bước kiểm tra giá trị null trong quá trình dọn dẹp hàng đợi nhóm lệnh (queue command pool) của Vulkan. Mặc dù đây là một bản vá nhỏ, lỗi này giúp cải thiện độ ổn định của llama.cpp khi chạy trên các phần cứng sử dụng API Vulkan để tăng tốc. Nó giúp ngăn ngừa các sự cố sập ứng dụng tiềm ẩn trong quá trình dọn dẹp bộ nhớ. Bản cập nhật giải quyết pull request #27353, bổ sung các chốt chặn chống lại con trỏ hàng đợi null trong hàm `ggml_vk_queue_command_pools_cleanup`. Bản phát hành này cũng bao gồm các tệp thực thi được biên dịch sẵn cho nhiều nền tảng, mặc dù một số bản build như macOS KleidiAI và Ubuntu ROCm hiện đang bị vô hiệu hóa.
## KIẾN THỨC NỀN
llama.cpp là một dự án mã nguồn mở được thiết kế để chạy các mô hình ngôn ngữ lớn (LLM) với hiệu suất cao trên phần cứng thông thường bằng cách sử dụng ggml, một thư viện tensor do Georgi Gerganov phát triển. Vulkan là một API đồ họa và tính toán đa nền tảng cho phép llama.cpp tận dụng khả năng tăng tốc GPU trên nhiều loại phần cứng khác nhau.