~/LLAMA CPP/llama-cpp-release-b10875-deprecates-legacy-memory-management-cli-arguments

llama.cpp Bản Phát Hành b10875 Chính Thức Phế Bỏ Các Tham Số Dòng Lệnh Quản Lý Bộ Nhớ Cũ

Phiên bản b10875 của llama.cpp chính thức phế bỏ (deprecate) các cờ dòng lệnh `--mmap`, `--mlock` và `--dio`. Thay đổi này giúp tinh gọn các cờ dòng lệnh sau khi các tùy chọn nạp mô hình đã được tái cấu trúc trước đó. Người dùng và nhà phát triển đang dựa vào các kịch bản lệnh cũ hoặc quy trình tự động dùng `--mmap`, `--mlock` hay `--dio` sẽ cần cập nhật lại các tùy chọn dòng lệnh. Việc chuyển sang các cờ nạp bộ nhớ hợp nhất giúp đơn giản hóa cấu hình và giảm chi phí bảo trì trên các bản dựng đa nền tảng. Thay đổi phế bỏ này được gộp vào qua PR #28334 do Aaron Teo đóng góp. Bản phát hành tiếp tục hỗ trợ nhiều bản phân phối nhị phân trên các môi trường Linux, Windows, macOS, Android và iOS.

## KIẾN THỨC NỀN

llama.cpp là một khung suy luận C/C++ mã nguồn mở phổ biến được thiết kế để chạy các Mô hình Ngôn ngữ Lớn cục bộ trên nhiều nền tảng phần cứng khác nhau. Các kỹ thuật như ánh xạ bộ nhớ (`mmap`), khóa bộ nhớ (`mlock`) và I/O trực tiếp (`dio`) chi phối cách truy cập và phân trang trọng số mô hình từ ổ lưu trữ vào bộ nhớ vật lý. Trong các bản phát hành trước, các cờ riêng lẻ này đã được hợp nhất thành một tham số chế độ nạp duy nhất để đơn giản hóa cấu hình bộ nhớ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama-cpp#AI#LLM#release-notes#open-source

$ subscribe --daily

llama.cpp Bản Phát Hành b10875 Chính Thức Phế Bỏ Các Tham Số Dòng Lệnh Quản Lý Bộ Nhớ Cũ | Daily News