Bản phát hành llama.cpp b12236 bổ sung trình hỗ trợ lấy mẫu lại đa phương thức
Bản phát hành llama.cpp b12236 giới thiệu các bản cập nhật gia tăng, đáng chú ý nhất là việc bổ sung một thành phần hỗ trợ lấy mẫu lại đa phương thức mới có tên là mtmd_helper_resampler. Bản cập nhật này cải thiện khả năng xử lý dữ liệu đa phương thức trong khuôn khổ, hỗ trợ xử lý tốt hơn các đầu vào phi văn bản như hình ảnh hoặc âm thanh bên cạnh các mô hình ngôn ngữ văn bản. Những cải tiến như vậy rất quan trọng để mở rộng hiệu quả việc chạy các ứng dụng AI đa phương thức cục bộ. Bản phát hành bao gồm việc bổ sung mtmd_helper_resampler cùng với tài liệu được cập nhật, các trường hợp thử nghiệm và định nghĩa của MA_MAX_FILTER_ORDER. Các tệp nhị phân được biên dịch trước được cung cấp cho nhiều nền tảng khác nhau bao gồm macOS, Linux, Android và Windows.
## KIẾN THỨC NỀN
Llama.cpp là một thư viện phần mềm mã nguồn mở được phát triển bằng C/C++ cho phép suy luận hiệu quả các mô hình ngôn ngữ lớn trên phần cứng phổ thông, được đồng phát triển cùng với thư viện tensor GGML. Các tính năng đa phương thức cho phép các hệ thống này xử lý và suy luận trên nhiều loại dữ liệu đa dạng ngoài văn bản thuần túy.