llama.cpp Phát Hành Phiên Bản b11988 Hỗ Trợ Mô Hình Limite 1B
Phiên bản b11988 của llama.cpp giới thiệu tính năng hỗ trợ kiến trúc gốc cho mô hình Limite 1B, cập nhật cả phần phân tích GGUF và các tập lệnh chuyển đổi. Bản cập nhật này cho phép người dùng chạy mô hình Limite 1B cục bộ thông qua thư viện. Bản cập nhật này mở rộng hệ sinh thái các mô hình mã nguồn mở được hỗ trợ bởi llama.cpp, mang đến cho các nhà phát triển và người đam mê thêm nhiều lựa chọn cho việc suy luận AI cục bộ. Việc bắt kịp các kiến trúc mô hình mới phát hành giúp phần cứng cộng đồng có thể tận dụng ngay lập tức các tiến bộ mới nhất. Yêu cầu kéo (#29433) được tạo bởi Giuseppe Scrivano với sự hỗ trợ từ Claude Opus 5.5, bổ sung kiến trúc 'Limite' trên các thành phần gguf-py, convert và llama.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở thực hiện việc suy luận hiệu quả trên các mô hình ngôn ngữ lớn khác nhau bằng cách sử dụng định dạng tệp GGUF, đóng vai trò là cỗ máy cốt lõi cho nhiều công cụ AI chạy cục bộ. GGUF là một định dạng tệp thống nhất được thiết kế để lưu trữ mọi thứ cần thiết nhằm chạy một mô hình ngôn ngữ lớn trên phần cứng thông thường.