llama.cpp phát hành bản b10977 cập nhật CUDA cho Windows CI
Dự án nguồn mở llama.cpp hỗ trợ suy luận mô hình ngôn ngữ vừa phát hành phiên bản b10977. Bản cập nhật này nâng cấp phiên bản bộ công cụ CUDA dùng trong quy trình tích hợp liên tục (CI) cho Windows x64 lên 13.4.1. Bản phát hành bảo trì này giúp các bản dựng sẵn dành cho GPU NVIDIA trên Windows luôn duy trì tính tương thích với CUDA 13 mới nhất. Điều này đảm bảo quy trình biên dịch ổn định và tối ưu hiệu năng cho người dùng chạy mô hình AI cục bộ trên Windows. Thay đổi chính đến từ pull request #28930, điều chỉnh quy trình tự động biên dịch bản dựng CUDA 13 cho Windows x64 kèm các tệp DLL tương ứng. Các tệp thực thi cho những nền tảng khác như macOS, Linux và Android cũng tiếp tục được đính kèm đầy đủ.
## KIẾN THỨC NỀN
llama.cpp là một thư viện C/C++ nguồn mở phổ biến giúp chạy các mô hình ngôn ngữ lớn (LLM) hiệu quả trên máy tính cá nhân và máy chủ. Quy trình tích hợp liên tục (CI) của dự án tự động biên dịch tệp thực thi bằng các bộ công cụ như NVIDIA CUDA để cung cấp các bản cài đặt sẵn cho người dùng.