OpenBMB Phát Hành MiniCPM-V-4.7-1B: Mô Hình Đa Phương Thức Hiệu Quả Cho Thiết Bị Đầu Cối
OpenBMB đã phát hành MiniCPM-V-4.7-1B, một mô hình ngôn ngữ đa phương thức 1 tỷ tham số có hiệu suất cao, được tối ưu hóa cho việc suy luận trên thiết bị với khả năng hiểu hình ảnh đơn, nhiều hình ảnh và video được nâng cao cùng với việc hỗ trợ định dạng GGUF. Bản phát hành này thúc đẩy đường biên Pareto về hiệu năng và hiệu suất cho các mô hình đa phương thức nhỏ, cho phép ứng dụng thị giác-ngôn ngữ mạnh mẽ trực tiếp trên các thiết bị biên và phần cứng di động bị giới hạn tài nguyên. MiniCPM-V 4.7 áp dụng các kỹ thuật nén token thị giác sớm và hỗ trợ nén hỗn hợp 4x/16x, tích hợp rộng rãi trên nền tảng di động và chip, cũng như các framework suy luận tiêu chuẩn như llama.cpp và Ollama.
## KIẾN THỨC NỀN
MiniCPM-V là dòng mô hình ngôn ngữ lớn đa phương thức nhỏ gọn do OpenBMB thiết kế nhằm mang lại khả năng hiểu thị giác và văn bản mạnh mẽ. GGUF là định dạng tệp nhị phân được tối ưu hóa để tải mô hình nhanh và lượng tử hóa hiệu quả, thường được sử dụng với llama.cpp để chạy các mô hình ngôn ngữ lớn cục bộ.