llama.cpp Phát hành Bản b10897 Cập nhật Build CUDA trên Windows trên ARM sang CUDA 13.4.1 GA
Bản phát hành b10897 của llama.cpp cập nhật quy trình build cho các bản phát hành CUDA trên Windows ARM64 sang sử dụng bộ phân phối chính thức CUDA 13.4.1 GA (General Availability). Thay đổi này giúp chuyển đổi hạ tầng build Windows ARM64 khỏi các bản lưu trữ Developer Preview thử nghiệm. Cập nhật này đảm bảo các bản build thực thi ổn định và sẵn sàng cho sản xuất cho các nhà phát triển chạy LLM tại địa phương trên các thiết bị Windows dùng chip ARM có tăng tốc GPU NVIDIA. Nó giúp quy trình CI của llama.cpp đồng bộ với việc NVIDIA chính thức hỗ trợ thương mại CUDA trên Windows trên ARM. Cập nhật này áp dụng trực tiếp cho các bản build thực thi `llama-b10897-bin-win-cuda-13.4-arm64.zip` và các phụ thuộc CUDA DLL liên quan. Thay đổi được đóng góp qua PR #28687 như một bản cập nhật bảo trì CI định kỳ.
## KIẾN THỨC NỀN
llama.cpp là một thư viện suy luận C/C++ mã nguồn mở dùng để chạy các mô hình ngôn ngữ lớn tại địa phương trên nhiều hệ điều hành và nền tảng phần cứng. Gần đây, NVIDIA đã mở rộng bộ công cụ CUDA Toolkit để hỗ trợ Windows trên ARM, cho phép các máy tính trang bị CPU ARM và GPU NVIDIA tận dụng tăng tốc CUDA. Việc chuyển từ gói Developer Preview sang bản phát hành chính thức (GA) đảm bảo các tệp thực thi phần mềm đã hoàn thiện và được hỗ trợ đầy đủ.