llama.cpp Phát Hành Bản b11349 Bổ Sung Ghi Log Cho Biên Dịch Pipeline Vulkan
llama.cpp đã phát hành bản dựng b11349, một bản cập nhật nhỏ bổ sung tính năng ghi log chi tiết cho các sự cố biên dịch pipeline Vulkan thông qua PR #29794. Các bản thực thi đóng gói sẵn cập nhật đã được phát hành cho macOS, Linux, Windows và Android. Mặc dù là một bản vá nhỏ, việc cải thiện ghi log chẩn đoán giúp các nhà phát triển và người dùng dễ dàng chẩn đoán lỗi biên dịch shader khi chạy các mô hình ngôn ngữ lớn qua backend Vulkan trên nhiều kiến trúc GPU khác nhau. Bản vá tập trung thêm nhật ký ghi nhận lỗi xảy ra trong quá trình khởi tạo pipeline Vulkan. Bên cạnh đó, các bản dựng sẵn cho macOS được bật tối ưu hóa KleidiAI của Arm vẫn tạm thời bị vô hiệu hóa trong phiên bản này.
## KIẾN THỨC NỀN
llama.cpp là một khung ứng dụng C/C++ mã nguồn mở được thiết kế để chạy các Mô hình Ngôn ngữ Lớn (LLM) hiệu quả trên phần cứng cá nhân. Vulkan là API đồ họa và tính toán 3D đa nền tảng, giúp llama.cpp chuyển giao các phép tính tensor của LLM sang nhiều loại GPU khác nhau ngoài hệ sinh thái CUDA của NVIDIA.