Ra mắt phiên bản Llama.cpp 0.2.0
Dự án mã nguồn mở llama.cpp đã chính thức phát hành phiên bản 0.2.0, cung cấp mã nguồn cập nhật, nhật ký thay đổi và các bản dựng sẵn trên GitHub. Là một thư viện nền tảng cho việc suy luận LLM cục bộ, các bản cập nhật của llama.cpp ảnh hưởng trực tiếp đến hiệu suất và khả năng của các công cụ hạ nguồn phổ biến như Ollama và LM Studio. Bản phát hành này bao gồm nhật ký thay đổi chính thức cho phiên bản 0.2.0 cùng với thẻ bản dựng sẵn liên quan b10566 trên GitHub.
## KIẾN THỨC NỀN
Llama.cpp là một thư viện phần mềm mã nguồn mở được phát triển bởi Georgi Gerganov, cho phép suy luận LLM hiệu quả trên phần cứng tiêu dùng. Thư viện này được phát triển song song với GGML, một thư viện tensor đa dụng được thiết kế để đạt hiệu suất cao với các phụ thuộc tối thiểu.