llama.cpp Phát Hành Phiên Bản b12097 Hỗ Trợ TTS Chatterbox Tích Hợp
Bản phát hành b12097 của llama.cpp giới thiệu tính năng hỗ trợ chuyển văn bản thành giọng nói (TTS) Chatterbox và giọng nói được tích hợp sẵn thông qua yêu cầu kéo (pull request) #30993. Bản cập nhật này mở rộng các tính năng cốt lõi của thư viện vượt ra ngoài các mô hình ngôn ngữ lớn để đi vào lĩnh vực tổng hợp giọng nói. Tính năng bổ sung này giúp mở rộng llama.cpp từ một công cụ suy luận mô hình ngôn ngữ lớn thuần túy thành một công cụ AI đa phương thức linh hoạt hơn chạy cục bộ. Nó cho phép các nhà phát triển và những người đam mê AI tích hợp việc tạo giọng nói trực tiếp cùng với việc tạo văn bản trong cùng một hệ sinh thái gọn nhẹ. Bản cập nhật, do các cộng tác viên bao gồm Pascal và Sigbjørn Skjæret từ Hugging Face đồng tác giả, bổ sung hỗ trợ mô hình và đa phương thức (mtmd) cho Chatterbox TTS. Bản phát hành cũng bao gồm các tệp nhị phân biên dịch sẵn cho nhiều nền tảng phổ biến trên macOS, Linux và Android với các phần cứng tăng tốc khác nhau.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở thực hiện suy luận trên nhiều mô hình ngôn ngữ lớn khác nhau như Llama của Meta, được đồng phát triển cùng với thư viện tensor GGML. Nó đóng vai trò là công cụ suy luận cục bộ cốt lõi cho nhiều công cụ phổ biến và giúp tối ưu hóa các tác vụ máy học trên nhiều phần cứng tiêu dùng khác nhau.