llama.cpp b10618 Khắc Phục Lỗi Phân Tích Cú Pháp Ngữ Pháp Gọi Công Cụ
Dự án llama.cpp đã phát hành phiên bản b10618, khắc phục lỗi trình phân tích cú pháp từ chối các dấu gạch ngang được thoát (\-) trong các lớp ký tự. Lỗi này trước đây đã khiến các ngữ pháp gọi công cụ (tool-call grammars) được tạo tự động không thể phân tích cú pháp thành công. Bản phát hành này đảm bảo đầu ra cấu trúc và việc gọi công cụ (tool calling) hoạt động ổn định, vốn là yếu tố quan trọng cho các quy trình tự động (agentic workflows) và tích hợp LLM với API bên ngoài. Nếu không có bản sửa lỗi này, các nhà phát triển sử dụng giải mã ràng buộc bằng ngữ pháp cho việc gọi công cụ có thể gặp lỗi khi chạy. Vấn đề bắt nguồn từ sự không khớp khi hàm gbnf_escape_char_class() thoát dấu gạch ngang thành \-, nhưng hàm parse_char() lại từ chối chuỗi thoát này. Bản vá giải quyết vấn đề bằng cách chấp nhận \- như một dấu gạch ngang thông thường trong các lớp ký tự.
## KIẾN THỨC NỀN
llama.cpp là một khung mã nguồn mở phổ biến để chạy các mô hình ngôn ngữ lớn (LLM) cục bộ với hiệu suất cao. Nó hỗ trợ GBNF (GGML Backus-Naur Form), một định dạng ngữ pháp được sử dụng để giải mã ràng buộc nhằm ép buộc đầu ra của LLM tuân theo các định dạng cụ thể như JSON hoặc gọi công cụ. Các lớp ký tự trong ngữ pháp xác định tập hợp các ký tự được chấp nhận, tương tự như biểu thức chính quy.