~/LLAMA CPP/llama-cpp-release-b12199-fixes-utf-8-sanitization-in-peg-tool-calls

Bản phát hành llama.cpp b12199 khắc phục lỗi làm sạch UTF-8 trong gọi công cụ PEG

Bản phát hành llama.cpp b12199 giới thiệu một bản vá để làm sạch các chuỗi UTF-8 không hợp lệ nằm trong các đối số lệnh gọi công cụ PEG. Bản cập nhật nhỏ này giải quyết các vấn đề về định dạng văn bản trong quá trình mô hình tạo sinh. Việc đảm bảo mã hóa ký tự UTF-8 chính xác giúp ngăn ngừa lỗi phân tích cú pháp và sự cố ứng dụng khi các mô hình ngôn ngữ lớn tạo ra các lệnh gọi công cụ chứa ký tự đặc biệt hoặc chuỗi nhiều dòng. Điều này cải thiện độ ổn định tổng thể của các luồng công việc tác nhân cục bộ và tích hợp công cụ. Bản sửa lỗi được theo dõi dưới mã yêu cầu kéo #31861 trong mô-đun common của kho lưu trữ. Các tệp nhị phân được biên dịch sẵn và gói xây dựng đa nền tảng cho macOS, Linux, Android và Windows được cung cấp như một phần của bản phát hành.

## KIẾN THỨC NỀN

llama.cpp là một thư viện mã nguồn mở cho phép suy luận hiệu quả cho các mô hình ngôn ngữ lớn như LLaMA trên phần cứng tiêu dùng. Tính năng gọi công cụ cho phép các mô hình tương tác với các công cụ và API bên ngoài bằng cách cấu trúc đầu ra của chúng theo các ngữ pháp hoặc lược đồ được xác định trước, thường được phân tích cú pháp bằng Ngữ pháp Biểu thức Phân tích (PEG).

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#LLM#AI#GitHub Release#Software Updates

$ subscribe --daily