llama.cpp Phát Hành Phiên Bản b10935 Bổ Sung Macro LOG_JSON Cho Ghi Log Cấu Trúc
Phiên bản b10935 của llama.cpp giới thiệu macro `LOG_JSON` mới trong các tiện ích dùng chung để hỗ trợ ghi log dữ liệu có cấu trúc. Bản phát hành này cũng đi kèm một ví dụ demo minh họa cách ghi dữ liệu JSON. Ghi log định dạng JSON có cấu trúc cho phép tự động phân tích log và thu thập dữ liệu đo đạc cho các hệ thống giám sát. Điều này giúp các lập trình viên tích hợp llama.cpp vào các hệ thống doanh nghiệp dễ dàng xử lý và phân tích các chỉ số vận hành hơn. Bản cập nhật tập trung vào PR #28586, bổ sung macro `LOG_JSON` vào cơ sở mã nguồn dùng chung. Các bản biên dịch sẵn được phát hành cho nhiều hệ điều hành và nền tảng tính toán, bao gồm Windows CUDA/Vulkan/ROCm, Linux, macOS, Android và iOS.
## KIẾN THỨC NỀN
llama.cpp là một công cụ thực thi mô hình ngôn ngữ lớn (LLM) mã nguồn mở phổ biến, được thiết kế để chạy hiệu quả trên phần cứng thương mại bằng C và C++. Ghi log có cấu trúc chuyển đổi thông tin log dạng văn bản thông thường sang định dạng chuẩn như JSON, giúp các công cụ giám sát xử lý tự động dễ dàng hơn.