Bản phát hành llama.cpp b11714 tích hợp tính năng khám phá và tải mô hình từ Hugging Face Hub
Bản phát hành llama.cpp b11714 giới thiệu một thành phần giao diện người dùng mới cho phép người dùng khám phá, tìm kiếm và tải xuống các mô hình trực tiếp từ Hugging Face Hub ngay trong công cụ. Bản cập nhật này cũng bao gồm các tính năng tạm dừng và tiếp tục tải mô hình, cùng với khả năng hiển thị mã HTML thô đã được làm sạch tùy chọn trong định dạng markdown. Bản cập nhật này cải thiện đáng kể tính dễ sử dụng của llama.cpp cho những người thực hành Mô hình Ngôn ngữ Lớn cục bộ bằng cách loại bỏ sự phức tạp khi phải tự tìm kiếm, tải xuống và quản lý các tệp mô hình GGUF thủ công. Điều này giúp đơn giản hóa quy trình làm việc khi chạy các mô hình AI mã nguồn mở trên phần cứng phổ thông. Giao diện Khám phá (Discover) mới có danh sách mục lục được tuyển chọn, tệp readme chi tiết, siêu dữ liệu, thống kê trên Hub và các tùy chọn tải xuống chuyên dụng đi kèm hỗ trợ tệp phụ. Ngoài ra, các tệp tải xuống chưa hoàn tất giờ đây sẽ được ghi nhớ qua các lần khởi động lại bằng mã băm nội dung, cho phép người dùng tiếp tục các quá trình truyền dữ liệu bị gián đoạn một cách liền mạch.
## KIẾN THỨC NỀN
Llama.cpp là một thư viện phần mềm mã nguồn mở phổ biến được thiết kế để giúp các Mô hình Ngôn ngữ Lớn chạy hiệu quả trên phần cứng cục bộ sử dụng định dạng lượng tử hóa GGUF. Hugging Face Hub đóng vai trò là một kho lưu trữ trung tâm nơi các nhà phát triển chia sẻ hàng nghìn mô hình học máy và tập dữ liệu được huấn luyện trước, bao gồm cả các phiên bản lượng tử hóa dành riêng cho llama.cpp.