ggerganov/llama.cpp Phát Hành Phiên Bản Xây Dựng b12131
Phiên bản b12131 của llama.cpp mang đến các cải tiến mã nguồn nhỏ, cụ thể là cập nhật cách xử lý đường dẫn của máy chủ bằng cách loại bỏ u8path() và chuyển sang dùng generic_string(). Các bản cập nhật định kỳ như thế này giúp đảm bảo tính ổn định, khả năng tương thích đa nền tảng và việc bảo trì sạch sẽ cho thành phần máy chủ được sử dụng trong nhiều quy trình suy luận AI cục bộ. Bản phát hành gia tăng này được đóng góp bởi Adrien Gallouët từ HuggingFace trong yêu cầu kéo (pull request) #31682, tập trung hoàn toàn vào việc dọn dẹp và quản lý đường dẫn nội bộ.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở phổ biến do Georgi Gerganov tạo ra, cho phép thực hiện suy luận hiệu quả đối với các mô hình ngôn ngữ lớn như Llama của Meta bằng ngôn ngữ C và C++. Thư viện này đóng vai trò là nền tảng cốt lõi cho vô số công cụ AI chạy cục bộ, cung cấp cả tiện ích dòng lệnh lẫn các tính năng máy chủ tích hợp.