llama.cpp Phát Hành Phiên Bản b10319 Sửa Lỗi Thành Phần Đa Phương Thức
Dự án llama.cpp đã phát hành phiên bản b10319, bao gồm một bản vá nhỏ để khắc phục lỗi trong thành phần mtmd. Cụ thể, bản cập nhật này sửa lỗi tham số `longest_edge` bỏ qua các thiết lập pixel tối thiểu và tối đa. Bản phát hành này đảm bảo quá trình tiền xử lý hình ảnh và tạo embedding diễn ra chính xác cho các mô hình đa phương thức chạy trên llama.cpp. Nó giúp ngăn chặn hành vi thay đổi kích thước không mong muốn khi xử lý các hình ảnh có độ phân giải khác nhau. Bản vá này giải quyết yêu cầu kéo (pull request) số #26638, đảm bảo các giới hạn pixel được tuân thủ chính xác trong quá trình thay đổi kích thước ảnh. Bản phát hành cũng cung cấp các tệp thực thi biên dịch sẵn cho nhiều nền tảng bao gồm macOS, Windows, Linux và Android.
## KIẾN THỨC NỀN
llama.cpp là một dự án mã nguồn mở chuyển đổi mô hình LLaMA của Meta sang ngôn ngữ C/C++, được thiết kế để suy luận LLM hiệu quả trên nhiều loại phần cứng khác nhau. Thành phần mtmd (đa phương thức) trong llama.cpp hỗ trợ xử lý đa phương thức bằng cách mã hóa hình ảnh thành các embedding trước khi đưa chúng vào mô hình ngôn ngữ. Việc thay đổi kích thước hình ảnh và xử lý các giới hạn pixel chính xác là rất quan trọng để duy trì độ chính xác của các embedding thị giác này.