Bản phát hành llama.cpp b11882 giới hạn độ sâu đệ quy ngữ pháp
Bản phát hành b11882 của llama.cpp giới thiệu một bản sửa lỗi cụ thể nhằm giới hạn độ sâu đệ quy của ngữ pháp. Cập nhật này được thiết kế để ngăn chặn tình trạng sập chương trình do tràn bộ nhớ ngăn xếp trong quá trình phân tích cú pháp ngữ pháp phức tạp. Bản sửa lỗi này nâng cao tính ổn định và độ tin cậy tổng thể khi chạy các mô hình ngôn ngữ lớn cục bộ, đặc biệt là khi ép buộc các đầu ra có cấu trúc nghiêm ngặt hoặc các ràng buộc ngữ pháp tùy chỉnh. Nó ngăn chặn các sự cố gián đoạn bất ngờ đối với các nhà phát triển và người dùng phụ thuộc vào đường ống suy luận cục bộ. Cập nhật này tương ứng với các yêu cầu kéo (pull request) #29495 và #29755 trong kho lưu trữ mã nguồn. Đây là một bản vá độ ổn định có mục tiêu được triển khai như một phần của các bản phát hành bản dựng liên tục cho dự án.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở được thiết kế để thực hiện suy luận trên nhiều mô hình ngôn ngữ lớn khác nhau bằng ngôn ngữ C và C++. Nó được sử dụng rộng rãi như một thành phần lõi tiêu chuẩn để chạy các mô hình AI cục bộ trên các nền tảng phần cứng khác nhau.