Hỗ trợ thị giác cho Minimax-M3 được tích hợp vào llama.cpp
Hỗ trợ thị giác cho mô hình trọng số mở Minimax-M3 đã chính thức được tích hợp vào kho lưu trữ mã nguồn llama.cpp. Sự tích hợp này cho phép người dùng chạy các tác vụ đa phương thức với Minimax-M3 ngay trên thiết bị cục bộ. Bản cập nhật này mở rộng khả năng đa phương thức của llama.cpp, cho phép cộng đồng LLM cục bộ tận dụng các tính năng thị giác tự nhiên và suy luận tác nhân của Minimax-M3. Nó cho phép thực thi cục bộ hiệu quả các tác vụ đa phương thức nâng cao, giảm sự phụ thuộc vào các API đám mây độc quyền. Minimax-M3 sở hữu cửa sổ ngữ cảnh lên tới 1 triệu token được vận hành bởi kiến trúc MSA và hỗ trợ hiểu đa phương thức tự nhiên. Việc tích hợp vào llama.cpp cho phép xử lý cả đầu vào văn bản và hình ảnh cho mô hình này.
## KIẾN THỨC NỀN
llama.cpp là một thư viện mã nguồn mở C/C++ phổ biến được thiết kế để suy luận cục bộ hiệu quả các LLM, đóng vai trò là backend cốt lõi cho các công cụ như Ollama và LM Studio. Minimax-M3 là một mô hình ngôn ngữ được thiết kế cho suy luận tác nhân, sử dụng công cụ, lập trình và trò chuyện đa phương thức.