OpenBMB ra mắt mô hình ngôn ngữ thị giác MoE mã nguồn mở MiniCPM-V-4.7-35B-A3B

OpenBMB vừa phát hành MiniCPM-V-4.7-35B-A3B, mô hình ngôn ngữ thị giác hỗn hợp chuyên gia (MoE) mã nguồn mở đầu tiên được tối ưu hóa để suy luận không tổn thất trực tiếp trên thiết bị. Mô hình tích hợp các kỹ thuật đổi mới như Lập lịch chuyên gia đón đầu (Lookahead Expert Scheduling) và lấy mẫu suy đoán DSpark nhằm đạt hiệu suất mượt mà trên phần cứng di động và biên. Bản phát hành này đẩy mạnh đường biên Pareto về hiệu năng và hiệu suất cho các mô hình đa phương thức, cho phép hiểu hình ảnh và video mạnh mẽ trên các thiết bị hạn chế tài nguyên như điện thoại thông minh. Điều này làm giảm đáng kể rào cản khi chạy AI đa phương thức phức tạp cục bộ trên các nền tảng người tiêu dùng và doanh nghiệp khác nhau. Biến thể 35B-A3B đạt tốc độ giải mã vượt 13 token/giây trên iPhone 17 Pro Max trong khi hỗ trợ nén token thị giác hỗn hợp 4x/16x. Mô hình cung cấp khả năng hỗ trợ rộng rãi cho các framework và phần cứng, bao gồm tương thích ngày đầu cho các dòng chip từ Rockchip, Intel, AMD và Arm, cùng với các biến thể lượng tử hóa GGUF, AWQ và FP8.