llama.cpp Phát Hành Phiên Bản b11727 Khắc Phục Lỗi Xử Lý Dữ Liệu GGUF Bị Cụt
Phiên bản b11727 của llama.cpp giới thiệu các cơ chế kiểm tra giới hạn và đọc thiếu dữ liệu nhằm ngăn ngừa hiện tượng hỏng tensor âm thầm khi xử lý các tệp GGUF bị cụt. Các cập nhật này nhắm cụ thể vào các công cụ tách và xuất tệp trong kho mã nguồn để đảm bảo các tệp đầu vào không hợp lệ được từ chối an toàn. Bản sửa lỗi này đảm bảo tính toàn vẹn của dữ liệu trong các hoạt động chuyển đổi và tách mô hình, giúp người dùng tránh mất thời gian gỡ lỗi các mô hình bị hỏng. Nó cải thiện độ bền vững tổng thể của hệ sinh thái cơ sở hạ tầng AI được xây dựng xung quanh các tệp GGUF. Bản vá bổ sung các kiểm tra giới hạn dữ liệu tensor và kiểm tra đọc thiếu trong `gguf-split.cpp` và `export-lora.cpp`, đi kèm với một bài kiểm tra hồi quy mới để xác minh rằng các tệp đầu vào bị cụt được từ chối chính xác.
## KIẾN THỨC NỀN
GGUF là định dạng tệp nhị phân được tối ưu hóa để tải và lưu nhanh các mô hình học máy phục vụ cho việc suy luận. Llama.cpp là một thư viện phần mềm mã nguồn mở thực hiện suy luận trên các mô hình ngôn ngữ lớn sử dụng thư viện tensor GGML.