llama.cpp Phát Hành Phiên Bản b11869 Khắc Phục Lỗi Xử Lý Tham Số Jinja
Bản phát hành b11869 của llama.cpp giới thiệu một bản vá lỗi cụ thể cho việc xử lý tham số select và selectattr của Jinja. Bản cập nhật này đảm bảo phân tích cú pháp và đánh giá chính xác các bộ lọc mẫu này bên trong thư viện. Bản cập nhật định kỳ này cải thiện độ ổn định trong việc xử lý tệp mẫu cho các ứng dụng dựa trên định dạng tạo câu lệnh cấu trúc. Các nhà phát triển sử dụng tệp mẫu Jinja để tương tác với mô hình sẽ có được trải nghiệm thực thi đáng tin cậy hơn. Bản vá giải quyết vấn đề #31059, khắc phục các hành vi phân tích cú pháp tham số không chính xác trong bộ lọc mẫu Jinja và tích hợp các bài kiểm tra thuộc tính được đơn giản hóa. Các gói nhị phân dịch sẵn được cung cấp trên nhiều nền tảng bao gồm macOS, Linux, Windows và Android.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở thực hiện suy luận hiệu quả trên các mô hình ngôn ngữ lớn khác nhau bằng cách sử dụng thư viện tensor GGML. Các tệp mẫu Jinja thường được sử dụng trong quy trình máy học để định dạng và cấu trúc hóa các câu lệnh gửi đến các mô hình ngôn ngữ lớn.