Phiên bản llama.cpp b11934 tối ưu hóa cơ sở hạ tầng kiểm thử

Bản phát hành llama.cpp b11934 giới thiệu các cải tiến hiệu suất cho quá trình tạo dữ liệu tensor kiểm thử và lưu mô hình. Bản cập nhật này tái cấu trúc quá trình lưu để tránh tạo các ngữ cảnh không cần thiết và thay thế hàm tạo phân phối chuẩn thông thường chậm chạp bằng bộ tạo splitmix64 kết hợp Box-Muller nhanh hơn. Những tối ưu hóa này giúp tinh giản quy trình phát triển và kiểm thử cho các nhà đóng góp bằng cách tăng tốc đáng kể các thao tác tensor và lưu mô hình. Mặc dù không thay đổi các tính năng suy luận dành cho người dùng cuối, nó giúp cải thiện hiệu quả tổng thể của mã nguồn và trải nghiệm của nhà phát triển. Bản cập nhật tận dụng một nhóm chia sẻ các kết quả rút thăm phân phối chuẩn được tạo sẵn một lần bằng std::mt19937 và tái sử dụng thông qua các lát cắt tuần hoàn theo khóa tên để đảm bảo tính tất định. Ngoài ra, nó đơn giản hóa việc ghi nhật ký bằng cách báo cáo kích thước mô hình đã lưu theo byte và megabyte trên một dòng duy nhất.