ggerganov/llama.cpp phát hành phiên bản b11951
Phiên bản b11951 của llama.cpp giới thiệu các bản vá để loại bỏ khoảng trắng thừa ở cuối phần lập luận và nội dung được phân tích, đồng thời dừng đúng cách quá trình suy luận của Qwen3-coder trước các ký tự phân tách khuôn mẫu. Bản cập nhật này cải thiện độ chính xác và định dạng đầu ra của các phiên trò chuyện khi chạy các mô hình như Qwen3-coder cục bộ, đảm bảo nhật ký tương tác gọn gàng hơn và xử lý token chuẩn xác. Bản phát hành bao gồm các cải tiến trong việc xử lý tiền tố một phần cho đến khi khớp ở cuối quá trình sinh văn bản, cùng với các cập nhật cho các bài kiểm tra phân tích trò chuyện.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở cho phép suy luận hiệu quả cho nhiều mô hình ngôn ngữ lớn khác nhau bằng cách sử dụng thư viện tensor GGML. Nó đóng vai trò là cốt lõi cho nhiều công cụ chạy AI cục bộ trên nhiều nền tảng phần cứng.