~/LLAMA CPP/llama-cpp-b10219-release-persists-reasoning-content-in-cli-chat-history

Phiên bản llama.cpp b10219 lưu trữ nội dung suy luận trong lịch sử trò chuyện CLI

Phiên bản b10219 của llama.cpp cập nhật giao diện dòng lệnh (CLI) để lưu trữ nội dung suy luận trong lịch sử trò chuyện. Điều này cho phép CLI đưa lại các suy nghĩ trước đó vào các lượt hội thoại tiếp theo khi sử dụng cờ `--reasoning-preserve`. Bản cập nhật này cải thiện khả năng sử dụng của các mô hình tập trung vào suy luận như DeepSeek-R1, đảm bảo chúng duy trì được ngữ cảnh và tính liên tục logic qua nhiều lượt trò chuyện. Nếu không có tính năng này, các mô hình sẽ mất đi ngữ cảnh chuỗi suy nghĩ trước đó trong các câu lệnh tiếp theo. Trước đây, `llama-cli` chỉ hiển thị nội dung suy luận được truyền trực tiếp nhưng không lưu trữ nó trong lịch sử tin nhắn của trợ lý, khiến cờ `--reasoning-preserve` không hoạt động hiệu quả. Bản phát hành này cũng bao gồm các tệp thực thi được biên dịch sẵn cho nhiều nền tảng, mặc dù hỗ trợ KleidiAI cho macOS Apple Silicon hiện đang bị vô hiệu hóa.

## KIẾN THỨC NỀN

`llama.cpp` là một thư viện mã nguồn mở phổ biến viết bằng C/C++ nhằm chạy các mô hình ngôn ngữ lớn (LLM) cục bộ với hiệu năng cao. Các mô hình suy luận tạo ra một chuỗi suy nghĩ (nội dung suy luận) để giải quyết các vấn đề logic phức tạp trước khi đưa ra câu trả lời cuối cùng.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#LLM#AI Infrastructure#Open Source

$ subscribe --daily

Phiên bản llama.cpp b10219 lưu trữ nội dung suy luận trong lịch sử trò chuyện CLI | Daily News