Phiên bản llama.cpp b10647 bổ sung các tham số dòng lệnh cho video
Phiên bản b10647 của llama.cpp giới thiệu các tham số dòng lệnh `--video-*` mới và các cập nhật khởi tạo helper nhỏ, cụ thể là bổ sung `mtmd_helper_init_opt`. Mặc dù đây là một bản phát hành định kỳ, việc bổ sung các tham số dòng lệnh liên quan đến video cho thấy nỗ lực cải thiện khả năng hỗ trợ các mô hình đa phương thức xử lý đầu vào video. Bản phát hành bao gồm các tệp thực thi biên dịch sẵn cho nhiều nền tảng, tuy nhiên phiên bản dành cho macOS Apple Silicon kích hoạt tăng tốc KleidiAI vẫn bị vô hiệu hóa.
## KIẾN THỨC NỀN
llama.cpp là một công cụ suy luận LLM mã nguồn mở viết bằng C/C++ rất phổ biến, được thiết kế để chạy các mô hình như Llama của Meta cục bộ với hiệu suất cao. KleidiAI là một thư viện mã nguồn mở của Arm nhằm tăng tốc các tác vụ AI trên các thiết bị dựa trên kiến trúc Arm.