Bản phát hành b11624 của llama.cpp cải thiện nhật ký truyền tải tensor RPC

Bản phát hành b11624 của llama.cpp giới thiệu tính năng ghi nhật ký truyền tải tensor RPC được cải tiến, định dạng số lượng byte thành KiB, MiB và GiB đồng thời bổ sung tên tensor, thao tác, kiểu và hình dạng chi tiết vào nhật ký vết. Bản cập nhật này cũng khắc phục lỗi ánh xạ tên lệnh UNKNOWN không chính xác cho các hàm RPC khác nhau và tổ chức lại các hàm hỗ trợ nhật ký vào một mô-đun ggml-rpc chung. Những cập nhật này nâng cao khả năng hiển thị khi gỡ lỗi và tính minh họa cho các nhà phát triển đang chạy suy luận mô hình ngôn ngữ lớn phân tán trên các phần phụ trợ lệnh gọi thủ tục từ xa (RPC). Công cụ chẩn đoán tốt hơn giúp các kỹ sư theo dõi mức tiêu thụ tài nguyên và khắc phục sự cố nghẽn cổ chai hiệu suất hiệu quả hơn. Bản cập nhật bổ sung các hàm rpc_log_format_size() và rpc_log_format_tensor() nhằm tiêu chuẩn hóa việc ghi nhật ký vết trên các lớp máy khách, máy chủ và truyền tải. Ngoài ra, các hàm hỗ trợ nhật ký đã được dời gọn gàng sang ggml-rpc/log.{h,cpp} dưới tiền tố rpc_log_ thống nhất.