Bản phát hành b11557 của llama.cpp cải thiện tính năng gỡ lỗi RPC và ghi log

Bản phát hành b11557 của llama.cpp giới thiệu các cấp độ chi tiết (verbosity) theo bậc cho GGML_RPC_DEBUG và hợp nhất tính năng ghi log cho cả máy khách lẫn máy chủ thông qua tệp tiêu đề chia sẻ log.h. Bản cập nhật bổ sung các thông tin chi tiết còn thiếu về quá trình bắt tay (handshake), thao tác bộ đệm, truyền tensor và tính toán đồ thị trên toàn bộ backend gọi thủ tục từ xa (RPC). Bản phát hành này cải thiện đáng kể khả năng quan sát và chẩn đoán cho việc suy luận mô hình phân tán và từ xa trong llama.cpp. Các nhà phát triển giờ đây có thể dễ dàng khắc phục sự cố nghẽn cổ chai mạng, vấn đề hiệu năng và lỗi giao tiếp giữa máy khách và máy chủ RPC hơn. GGML_RPC_DEBUG giờ đây được phân tích cú pháp thành một cấp độ số từ 0 đến 3 để kiểm soát mức độ chi tiết của đầu ra, trong khi các hoạt động bị suy giảm như RDMA chuyển đổi dự phòng về TCP được nâng lên thành mức cảnh báo. Lưu ý rằng các ứng dụng llama.cpp tiêu chuẩn sẽ ẩn các bản ghi gỡ lỗi này trừ khi ngưỡng chi tiết toàn cục được nâng lên một cách rõ ràng bằng tham số -lv 5.