ggerganov/llama.cpp Phát Hành Phiên Bản b12021 Cập Nhật Gemma 4
Phiên bản b12021 của llama.cpp mang đến các bản cập nhật đa phương thức, cụ thể là cải tiến cách thay đổi kích thước hình ảnh của Gemma 4 mà không cần sử dụng đệm letterbox. Bản cập nhật này cải thiện hiệu quả và độ trung thực trong việc xử lý hình ảnh cho các mô hình đa phương thức trong hệ sinh thái llama.cpp, mang lại lợi ích cho người dùng chạy các mô hình ngôn ngữ thị giác cục bộ. Yêu cầu kéo (pull request) #30922 chỉnh sửa mô-đun đa phương thức (mtmd) để xử lý việc phóng to thu nhỏ hình ảnh trực tiếp mà không cần thêm đệm, giúp tối ưu hóa việc sử dụng tài nguyên trong quá trình suy luận.
## KIẾN THỨC NỀN
llama.cpp là một thư viện mã nguồn mở phổ biến cho phép suy luận hiệu quả các mô hình ngôn ngữ lớn trên phần cứng phổ thông, được đồng phát triển cùng với thư viện tensor GGML. Đệm letterbox là một kỹ thuật xử lý hình ảnh dùng để bảoát tỷ lệ khung hình của ảnh bằng cách thêm viền, điều mà bản cập nhật này tránh áp dụng cho Gemma 4.