Bản phát hành b11675 của llama.cpp bổ sung hỗ trợ phát trực tuyến âm thanh đa phương thức
Bản phát hành b11675 của llama.cpp giới thiệu `mtmd_audio_stream` cùng với việc tích hợp hỗ trợ cho mô hình `voxtral-realtime`. Tính năng mới này nâng cao khả năng xử lý đa phương thức của thư viện dành cho các ứng dụng âm thanh thời gian thực. Bản cập nhật này giúp các nhà phát triển dễ dàng xây dựng các tác vụ giọng nói phản hồi nhanh và công cụ chuyển đổi giọng nói thành văn bản thời gian thực có độ trễ thấp ngay trên thiết bị cục bộ. Bằng cách mở rộng hỗ trợ đa phương thức, llama.cpp tiếp tục thu hẹp khoảng cách giữa cơ sở hạ tầng đám mây nặng nề và việc thực thi AI nguồn mở cục bộ. Bản cập nhật mang đến các thay đổi bên trong module `mtmd` thông qua yêu cầu kéo (pull request) #30629, triển khai tính năng dòng dữ liệu âm thanh nền tảng. Các gói nhị phân biên dịch sẵn và gói biên dịch đa nền tảng được cung cấp trên các hệ điều hành lớn như macOS, Linux, Android và Windows.
## KIẾN THỨC NỀN
Llama.cpp là một thư viện phần mềm mã nguồn mở thực thi suy luận trên các mô hình ngôn ngữ lớn ngay tại cục bộ và đóng vai trò là nền tảng cốt lõi cho các công cụ AI chạy trên thiết bị cá nhân. Voxtral Realtime là một mô hình phiên âm giọng nói được thiết kế riêng cho việc chuyển đổi giọng nói trực tiếp và các trợ lý giọng nói có độ trễ cực thấp.