~/LLAMA CPP/ggerganov-llama-cpp-released-build-b11925

ggerganov/llama.cpp Phát Hành Bản Xây Dựng b11925

Llama.cpp vừa phát hành bản dựng b11925, mang đến các cải tiến về tích hợp liên tục cho các bản dựng phát hành ROCm bên cạnh các tệp nhị phân đa nền tảng quen thuộc. Bản cập nhật này bao gồm việc tối ưu hóa bộ nhớ đệm cho bản dựng ROCm bằng chế độ phụ thuộc ccache. Bản phát hành này tiếp tục chuỗi các cải tiến cơ sở hạ tầng giúp llama.cpp luôn hiệu quả và đáng tin cậy trên nhiều bộ tăng tốc phần cứng khác nhau. Các nhà phát triển sử dụng GPU AMD sẽ hưởng lợi trực tiếp từ quy trình xây dựng được hợp lý hóa và độ ổn định CI tốt hơn. Bản dựng này tích hợp yêu cầu kéo #31231, tập trung cụ thể vào cấu hình chế độ phụ thuộc ccache cho AMD ROCm. Là một bản phát hành gia tăng, nó cũng cung cấp các tệp nhị phân được biên dịch sẵn cho nhiều kiến trúc khác nhau bao gồm CUDA, Vulkan và Apple Silicon.

## KIẾN THỨC NỀN

llama.cpp là một thư viện mã nguồn mở phổ biến cho phép các nhà phát triển chạy các mô hình ngôn ngữ lớn cục bộ trên nhiều nền tảng phần cứng khác nhau, được đồng phát triển cùng với thư viện tensor GGML. AMD ROCm là một ngăn xếp phần mềm mở được thiết kế cho việc lập trình GPU và tính toán hiệu năng cao trên các dòng card đồ họa AMD.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#AI#Machine Learning#LLM#Releases

$ subscribe --daily