Bản phát hành llama.cpp b10766 sửa lỗi hỗ trợ đầu vào thị giác cho DeepSeek V4
llama.cpp đã phát hành bản dựng b10766, cập nhật việc triển khai mô hình nội bộ thông qua pull request #28154 để xử lý chính xác các đầu vào hình ảnh thị giác cho mô hình DeepSeek V4. Cập nhật này cho phép người dùng và nhà phát triển AI cục bộ chạy chính xác các mô hình thị giác-ngôn ngữ đa thức DeepSeek V4 trên nhiều nền tảng phần cứng do llama.cpp hỗ trợ. Bản phát hành cung cấp các tệp thực thi biên dịch sẵn cho macOS, Windows, Linux và Android trên nhiều backend tăng tốc bao gồm CUDA, Vulkan, ROCm, SYCL và OpenVINO.
## KIẾN THỨC NỀN
llama.cpp là một khung suy luận C/C++ nguồn mở được thiết kế để thực thi các mô hình ngôn ngữ lớn với hiệu năng cao trên phần cứng cá nhân. DeepSeek V4 có thêm các khả năng thị giác thử nghiệm, cho phép mô hình tiếp nhận cả đầu vào hình ảnh và văn bản.