~/LLAMA CPP/ggerganov-llama-cpp-released-version-b12238-with-audio-endpoint

ggerganov/llama.cpp Phát Hành Phiên Bản b12238 Cùng Điểm Cuối Âm Thanh

Phiên bản llama.cpp b12238 bổ sung một điểm cuối /v1/audio/speech tương thích với OpenAI cho tính năng chuyển đổi văn bản thành giọng nói cùng với các cải tiến về xử lý âm thanh. Bản cập nhật này cũng điều chỉnh việc làm tròn và phân tích cú pháp thân yêu cầu đa phần (multipart) cho các tiện ích âm thanh nhằm đảm bảo tính nhất quán về kiểu dữ liệu. Bổ sung này cho phép các nhà phát triển thay thế trực tiếp các lệnh gọi âm thanh OpenAI bằng cơ sở hạ tầng cục bộ chạy trên llama.cpp, tạo điều kiện thuận lợi cho các quy trình chuyển đổi văn bản thành giọng nói cục bộ và ngoại tuyến. Điều này mở rộng lớp tương thích của máy chủ, giúp việc tích hợp các ứng dụng AI đa phương thức cục bộ trở nên dễ dàng hơn. Bản cập nhật khắc phục sự cố trình ghi WAV cắt bớt dữ liệu trong khi hàm pcm_f32_to_s16 làm tròn, gây ra sự chênh lệch một LSB giữa định dạng WAV và PCM. Cả hai phương pháp giờ đây đều làm tròn chính xác, và quá trình chuyển đổi xử lý các byte trực tiếp mà không cần sao chép trung gian.

## KIẾN THỨC NỀN

llama.cpp là một thư viện phần mềm mã nguồn mở thực hiện suy luận trên các mô hình ngôn ngữ lớn khác nhau như Llama của Meta bằng cách sử dụng thư viện tensor GGML. Thư viện này bao gồm một máy chủ tích hợp phản ánh các định dạng API phổ biến để đơn giản hóa quá trình tích hợp cho các nhà phát triển.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llama.cpp#ai#llm#text-to-speech#open-source

$ subscribe --daily