~/LLAMA CPP/gglerganov-llama-cpp-released-version-b12428-with-jinja-enhancements

gglerganov/llama.cpp phát hành phiên bản b12428 với các cải tiến về Jinja

Dự án llama.cpp đã phát hành phiên bản b12428, giới thiệu bốn tính năng template Jinja còn thiếu cùng với các bản phân phối nhị phân chuẩn cho nhiều nền tảng khác nhau. Các bản cập nhật template này giúp cải thiện khả năng tương thích với các định dạng trò chuyện phức tạp đòi hỏi bởi các mô hình ngôn ngữ lớn hiện đại, đảm bảo quá trình chạy cục bộ mượt mà hơn. Các bản phân phối nhị phân chuẩn hóa cũng giúp đơn giản hóa việc cài đặt trên các kiến trúc phần cứng đa dạng. Bản phát hành bao gồm các gói nhị phân được biên dịch sẵn trải dài trên macOS, Linux, Windows và Android, cùng với các bản dựng chuyên biệt cho CUDA, Vulkan, OpenVINO và các backend phần cứng khác.

## KIẾN THỨC NỀN

llama.cpp là một thư viện mã nguồn mở cho phép suy luận hiệu quả đối với các mô hình ngôn ngữ lớn trên phần cứng cục bộ bằng ngôn ngữ C/C++. Đây là một thành phần nền tảng cho nhiều công cụ và ứng dụng AI cục bộ phổ biến.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#llm#ai#open-source

$ subscribe --daily