Phiên bản llama.cpp b10311 sửa lỗi truyền luồng văn bản trong Qwen3-TTS
Dự án llama.cpp đã phát hành phiên bản b10311, khắc phục lỗi luồng văn bản bị nạp lại hai lần trong quá trình tạo giọng nói bằng Qwen3-TTS. Bản phát hành này sửa lỗi không khớp bố cục prompt giữa chế độ truyền luồng (streaming) và không truyền luồng (non-streaming). Bản sửa lỗi này đảm bảo Qwen3-TTS, một mô hình chuyển đổi văn bản thành giọng nói đa ngôn ngữ, không bị lặp lại câu nói hoặc đọc văn bản hai lần khi tạo giọng nói. Điều này giúp cải thiện độ tin cậy và tính chính xác của đầu ra âm thanh khi chạy Qwen3-TTS qua llama.cpp. Lỗi xảy ra do đường ống (pipeline) xây dựng prefill không truyền luồng nhưng lại áp dụng lớp phủ truyền luồng (streaming overlay), khiến bộ tạo xử lý câu nói hai lần trước khi phát ra mã kết thúc luồng (codec_eos). Bản sửa lỗi đã điều chỉnh lớp phủ thành một hàng tts_pad duy nhất để khớp với prefill.
## KIẾN THỨC NỀN
llama.cpp là một công cụ suy luận mô hình ngôn ngữ lớn (LLM) mã nguồn mở phổ biến được viết bằng C/C++, cho phép chạy các mô hình cục bộ trên phần cứng của người dùng cá nhân. Qwen3-TTS là dòng mô hình chuyển đổi văn bản thành giọng nói mã nguồn mở do đội ngũ Qwen của Alibaba Cloud phát triển, hỗ trợ tạo giọng nói đa ngôn ngữ, biểu cảm và truyền luồng trực tiếp.