llama.cpp b12393 phát hành với các cập nhật gọi công cụ LFM2
Phiên bản phát hành b12393 của llama.cpp giới thiệu các cập nhật đối với ngữ pháp gọi công cụ LFM2 bằng cách loại bỏ cờ nghiêm ngặt và cho phép các lệnh gọi công cụ chưa được khai báo. Cập nhật này cải thiện tính linh hoạt trong cách các mô hình ngôn ngữ lớn xử lý ngữ pháp gọi công cụ, đáp ứng các trường hợp sử dụng linh hoạt hơn khi các hàm chưa được liệt kê có thể được gọi. Thay đổi này chỉnh sửa cụ thể thành phần trò chuyện để loại bỏ việc kiểm tra nghiêm ngặt, đảm bảo rằng ngữ pháp gọi công cụ LFM2 luôn cho phép các lệnh gọi công cụ chưa được khai báo.
## KIẾN THỨC NỀN
llama.cpp là một thư viện mã nguồn mở cho phép suy luận hiệu quả các mô hình ngôn ngữ lớn trên các phần cứng khác nhau. Tính năng gọi công cụ cho phép các mô hình ngôn ngữ tương tác với các công cụ và API bên ngoài bằng cách tạo ra các đối số có cấu trúc dựa trên ngữ pháp được xác định trước.