~/LLAMA CPP/llama-cpp-release-b12448-adds-scope-chain-key-lookup-for-jinja-templates

llama.cpp Phiên bản b12448 Bổ sung Tra cứu Khóa Chuỗi Phạm vi cho Mẫu Jinja

Phiên bản b12448 của llama.cpp ra mắt tính năng triển khai tra cứu khóa chuỗi phạm vi cho các mẫu Jinja bên cạnh các bản dựng nhị phân đa nền tảng toàn diện. Bản cập nhật này cũng bao gồm các bài kiểm tra cụ thể để xác thực chức năng lambda call_statement trong trình tạo mẫu. Việc cải thiện cách xử lý mẫu Jinja giúp nâng cao cách các công cụ suy luận cục bộ định dạng câu lệnh và cấu trúc cuộc trò chuyện cho các mô hình ngôn ngữ lớn phức tạp. Sự tinh chỉnh này đảm bảo khả năng tương thích tốt hơn với các mẫu trò chuyện hiện đại do các mô hình nguồn mở tiên tiến yêu cầu. Bản cập nhật tích hợp yêu cầu kéo #32396, tập trung vào phạm vi biến mẫu bên trong và bổ sung các bài kiểm tra tự động cho các lambda câu lệnh gọi. Ngoài ra, các tệp nhị phân biên dịch sẵn được cung cấp cho nhiều loại phần cứng nền tảng khác nhau bao gồm CUDA, Vulkan, OpenVINO và các kiến trúc di động.

## KIẾN THỨC NỀN

llama.cpp là một thư viện phần mềm mã nguồn mở được thiết kế để thực hiện suy luận hiệu quả trên các mô hình ngôn ngữ lớn bằng cách sử dụng thư viện tensor GGML. Các mẫu Jinja thường được các nhà tạo lập mô hình sử dụng để xác định cách các cuộc trò chuyện đầu vào được cấu trúc thành một chuỗi câu lệnh liên tục mà mô hình có thể hiểu được.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#LLM#AI#Machine Learning#Open Source

$ subscribe --daily

llama.cpp Phiên bản b12448 Bổ sung Tra cứu Khóa Chuỗi Phạm vi cho Mẫu Jinja | Daily News