Bản phát hành llama.cpp b11570 tối ưu hóa các phần phụ thuộc trong hệ thống xây dựng kiểm thử
Phiên bản b11570 của llama.cpp đã tái cấu trúc hệ thống xây dựng kiểm thử để đảm bảo rằng mỗi bộ kiểm thử chỉ liên kết với các thư viện cụ thể mà chúng thực sự cần, thay vì kế thừa các phần phụ thuộc mặc định rộng rãi. Cụ thể, các hàm hỗ trợ giờ đây hỗ trợ từ khóa LINK cho phép các vị trí gọi khai báo rõ ràng các mục tiêu cần thiết như ggml hoặc llama. Việc tách rời các phần phụ thuộc kiểm thử giúp tối ưu hóa quy trình phát triển bằng cách giảm thiểu sự liên kết biên dịch không cần thiết và cải thiện hiệu quả xây dựng cho các cộng tác viên. Việc dọn dẹp cơ sở hạ tầng này giúp duy trì một mã nguồn sạch sẽ và có tính mô-đun cao khi dự án mở rộng quy mô trên nhiều nền tảng phần cứng khác nhau. Bản cập nhật giới thiệu từ khóa LINK mặc định (mặc định là llama-common) trong llama_build() và llama_build_and_test(), loại bỏ việc bao gồm common.h trong testing.h bằng cách nội tuyến hàm string_join, đồng thời bắt buộc tuân thủ chuẩn C++17 rõ ràng vì các bài kiểm thử không còn kế thừa nó từ các giao diện chung.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở phổ biến được thiết kế để thực hiện suy luận cục bộ hiệu quả cho các mô hình ngôn ngữ lớn trên phần cứng phổ thông. Thư viện này được xây dựng dựa trên GGML, một thư viện tensor được tối ưu hóa cho các hoạt động học máy.