~/LLAMA CPP/ggerganov-llama-cpp-released-version-b11662

ggerganov/llama.cpp Phát Hành Phiên Bản b11662

Dự án llama.cpp vừa phát hành phiên bản b11662, bao gồm các bản cập nhật đồng bộ GGML tiêu chuẩn cùng với các tệp nhị phân được biên dịch sẵn cho macOS, Linux, Windows và hệ điều hành di động. Bản phát hành định kỳ này đảm bảo rằng các nhà phát triển và người dùng chạy các mô hình ngôn ngữ lớn cục bộ có thể tiếp cận các bản cập nhật đồng bộ tensor cốt lõi mới nhất trên nhiều nền tảng phần cứng. Bản phát hành cung cấp các gói được xây dựng sẵn cho nhiều backend khác nhau bao gồm CUDA, Vulkan, ROCm, OpenVINO và SYCL, đồng thời tạm thời vô hiệu hóa tính năng tích hợp KleidiAI trên macOS Apple Silicon.

## KIẾN THỨC NỀN

llama.cpp là một mã nguồn mở cho phép suy luận hiệu quả các mô hình ngôn ngữ lớn trên phần cứng phổ thông thông qua thư viện tensor GGML. Thư viện này đóng vai trò là thành phần nền tảng cho nhiều công cụ triển khai AI cục bộ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#AI#LLM#open-source#release

$ subscribe --daily

ggerganov/llama.cpp Phát Hành Phiên Bản b11662 | Daily News