Bản phát hành b12479 của llama.cpp bổ sung hỗ trợ Minimax-Music3
Bản phát hành b12479 của llama.cpp đã chính thức ra mắt, mang đến khả năng hỗ trợ mô hình đa phương thức Minimax-Music3 cùng với các gói nhị phân dựng sẵn tiêu chuẩn cho nhiều hệ điều hành khác nhau. Bản cập nhật này mở rộng phạm vi các kiến trúc được thư viện hỗ trợ, cho phép người dùng chạy các mô hình đa phương thức tiên tiến một cách cục bộ trên nhiều nền tảng phần cứng khác nhau. Bản phát hành bao gồm các gói nhị phân dựng sẵn cho macOS, Linux, Android và Windows, hỗ trợ nhiều nền tảng phần cứng như CPU, CUDA, Vulkan và NPU Snapdragon.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở do Georgi Gerganov tạo ra, chuyên thực hiện suy luận trên các mô hình ngôn ngữ lớn bằng ngôn ngữ C/C++. Thư viện này đóng vai trò là cơ sở hạ tầng cốt lõi để chạy các mô hình AI cục bộ một cách hiệu quả trên phần cứng phổ thông.