llama.cpp Chuẩn Bị Hỗ Trợ Mô Hình Thị Giác-Ngôn Ngữ MiniCPM-V 4.7 Sắp Ra Mắt
Một yêu cầu kéo (pull request #29416) đã được gửi tới llama.cpp bởi nhà phát triển tc-mb nhằm bổ sung sự hỗ trợ cho kiến trúc mô hình thị giác-ngôn ngữ MiniCPM-V 4.7 sắp ra mắt. PR này xuất hiện sau khi một biến thể mô hình MiniCPM-V 4.7 chưa phát hành từng xuất hiện ngắn ngủi trên Hugging Face. Việc hỗ trợ sớm kiến trúc mô hình trong llama.cpp đảm bảo cộng đồng phát triển và người dùng AI cục bộ có thể chạy ngay MiniCPM-V 4.7 khi OpenBMB chính thức phát hành trọng số. Các mô hình MiniCPM-V rất được ưa chuộng trong hệ sinh thái mã nguồn mở nhờ khả năng xử lý đa thức mạnh mẽ trên phần cứng hạn chế tài nguyên. MiniCPM-V 4.7 kết hợp bộ mã hóa thị giác SigLIP với tính năng gộp chú ý cửa sổ (window-attention merger) và mô hình ngôn ngữ nền tảng Qwen3.5, hỗ trợ các chế độ giảm mẫu thị giác 4x và 16x. Mặc dù việc triển khai mã nguồn thực thi đang được hoàn thiện trong llama.cpp, người dùng vẫn phải chờ OpenBMB chính thức công khai trọng số.
## KIẾN THỨC NỀN
MiniCPM-V là dòng mô hình ngôn ngữ lớn đa thức hiệu quả do OpenBMB phát triển phục vụ thực thi thị giác - văn bản tốc độ cao trên thiết bị di động và máy tính cá nhân. llama.cpp là công cụ C/C++ chuẩn mực dùng để chạy cục bộ các LLM mã nguồn mở được định lượng trên nhiều kiến trúc CPU và GPU.