Gradium Phát Hành Phonon: Mô Hình TTS Nguồn Mở 31M và 40M Cho Thiết Bị Biên
Gradium đã mã nguồn mở Phonon, một dòng mô hình Chuyển văn bản thành giọng nói (Text-to-Speech) với 31 triệu và 40 triệu tham số được thiết kế riêng cho việc triển khai trực tiếp trên thiết bị. Bản phát hành này đi kèm với một ngăn xếp suy luận dựa trên ngôn ngữ Rust hoàn toàn mã nguồn mở, hỗ trợ hơn 10 phần cứng backend khác nhau. Bản phát hành này cung cấp cho các nhà phát triển các công cụ tạo giọng nói trọng lượng nhẹ và cực kỳ hiệu quả, có thể hoạt động cục bộ trên phần cứng bị giới hạn tài nguyên mà không phụ thuộc vào đám mây. Điều này giúp hạ thấp rào cản khi tích hợp tính năng tổng hợp giọng nói tự nhiên vào ứng dụng di động, trình duyệt web và thiết bị biên. Các mô hình Phonon có khả năng phát trực tuyến âm thanh 24 kHz ngay trong quá trình tạo văn bản, đồng thời đủ nhỏ gọn để chạy mượt mà trong tab trình duyệt, trên điện thoại thông minh hoặc CPU máy tính xách tay. Ngăn xếp suy luận cốt lõi nhắm tới nhiều tùy chọn phần cứng khác nhau bao gồm CPU, GPU và NPU.
## KIẾN THỨC NỀN
AI biên (Edge AI) đề cập đến việc chạy các mô hình học máy cục bộ trên thiết bị người dùng thay vì trên máy chủ đám mây từ xa, giúp cải thiện quyền riêng tư, giảm độ trễ và hoạt động ngoại tuyến. Các mô hình Chuyển văn bản thành giọng nói (TTS) dịch văn bản viết thành âm thanh đọc, và việc tối ưu hóa chúng cho thiết bị biên đòi hỏi phải thu nhỏ kích thước mô hình trong khi vẫn duy trì chất lượng giọng đọc tự nhiên.