ggml-org/llama.cpp Phát Hành b12380 Hỗ Trợ Bộ Giải Mã Video Tùy Chỉnh
Bản phát hành b12380 của llama.cpp giới thiệu khả năng hỗ trợ các bộ giải mã video tùy chỉnh cùng với các cập nhật đa phương thức (mtmd) thông thường và các gói xây dựng đa nền tảng. Phiên bản này cũng thích ứng với các yêu cầu của wllama, giúp cải thiện tính linh hoạt trong quá trình tích hợp. Cập nhật này nâng cao khả năng xử lý đa phương thức của llama.cpp, cho phép các nhà phát triển tích hợp các luồng xử lý video chuyên dụng một cách mượt mà hơn vào các quy trình làm việc AI cục bộ. Những cải tiến như vậy mở rộng phạm vi ứng dụng có thể chạy hiệu quả trên phần cứng người dùng phổ thông. Yêu cầu kéo #32188 cụ thể bổ sung việc xử lý bộ giải mã video tùy chỉnh trong thành phần mtmd, đồng thời bao gồm các tinh chỉnh mã nguồn và bài kiểm tra. Các tệp nhị phân tiêu chuẩn được cung cấp cho rất nhiều môi trường khác nhau, bao gồm macOS, Linux, Windows và Android.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở phổ biến chuyên thực hiện suy luận hiệu quả trên các mô hình ngôn ngữ lớn bằng cách sử dụng thư viện tensor GGML. Thư viện này đã trở thành tiêu chuẩn thực tế để chạy các mô hình AI tiên tiến cục bộ trên nhiều nền tảng phần cứng khác nhau.