llama.cpp phát hành bản cập nhật b11125 sửa lỗi multi-buffer view
llama.cpp đã phát hành bản cập nhật b11125, một bản vá nhỏ nhằm xử lý các multi-buffer view trong thành phần ggml-meta. Thay đổi này cũng bao gồm một ghi chú TODO để xem xét lại cách triển khai nếu trình phân bổ đồ thị (graph allocator) được tái cấu trúc sau này. Mặc dù đây là một bản phát hành bảo trì định kỳ tự động, nó đảm bảo việc ánh xạ bộ đệm bộ nhớ chính xác trong engine tensor cốt lõi khi thực thi mô hình. Việc duy trì các bộ đệm chính xác giúp ngăn ngừa lỗi phân bổ bộ nhớ trên nhiều backend phần cứng được hỗ trợ. Bản vá này giải quyết pull request #29266 trong ggml-meta và đi kèm các bản dựng sẵn cho Windows, Linux, macOS, iOS, Android cùng các backend như CUDA, Vulkan, ROCm, OpenVINO, SYCL và Snapdragon. Ngoài ra, tùy chọn hỗ trợ KleidiAI trên macOS Apple Silicon hiện vẫn tạm thời bị tắt.
## KIẾN THỨC NỀN
llama.cpp là một khung làm việc mã nguồn mở phổ biến dùng cho suy luận LLM cục bộ, được xây dựng trên ggml — một thư viện tensor bằng C/C++ độc lập nhằm tối ưu hóa tính toán học máy trên nhiều nền tảng phần cứng. KleidiAI là thư viện mã nguồn mở được phát triển bởi Arm, cung cấp các micro-kernel tối ưu giúp tăng tốc khối lượng công việc học máy trên CPU Arm.