Koboldcpp Phiên Bản 1.121 Được Phát Hành Cho Việc Chạy LLM Cục Bộ
Phiên bản Koboldcpp 1.121 đã chính thức được phát hành, mang đến bản cập nhật cho công cụ thực thi LLM cục bộ mã nguồn mở phổ biến này. Các bản cập nhật thường xuyên cho Koboldcpp giúp duy trì tính tương thích với những phát triển từ llama.cpp và đảm bảo việc thực thi cục bộ mượt mà cho người dùng chú trọng đến quyền riêng tư. Koboldcpp hoạt động như một máy chủ di động, độc lập cho Windows, Linux và macOS, cung cấp các API tương thích với Kobold và OpenAI. Phần mềm hỗ trợ chạy LLM, tạo hình ảnh và các tác vụ giọng nói trên GPU và NPU.
## KIẾN THỨC NỀN
Koboldcpp là một phần mềm thực thi AI mã nguồn mở nhẹ được xây dựng dựa trên dự án llama.cpp. Phần mềm này rất được cộng đồng AI cục bộ ưa chuộng cho việc tạo văn bản và các ứng dụng nhập vai ngoại tuyến như SillyTavern mà không cần khóa API đám mây.