Trình phát nhạc DJ AI tự vận hành chạy hoàn toàn cục bộ trên mô hình 9B

Một nhà phát triển đã xây dựng và mã nguồn mở dự án "Subwave", một DJ radio AI tự vận hành chạy hoàn toàn cục bộ sử dụng Ollama, Navidrome, Piper/Kokoro TTS và Liquidsoap. Hệ thống sử dụng một mô hình 9B (như Qwen) với tính năng gọi công cụ (tool-calling) để tìm kiếm thư viện nhạc, kiểm tra thời tiết và viết lời giới thiệu, trong khi Liquidsoap xử lý việc trộn âm thanh. Dự án này chứng minh rằng các mô hình 9B cục bộ, nhỏ hơn hoàn toàn có khả năng xử lý các quy trình agent phức tạp khi được trang bị tính năng gọi công cụ và bộ nhớ phiên làm việc. Nó mang lại một giải pháp thay thế tập trung vào quyền riêng tư, không cần khóa API cho những người đam mê tự vận hành máy chủ truyền thông thay vì sử dụng các dịch vụ tạo âm thanh AI dựa trên đám mây. Hệ thống phụ thuộc nhiều vào bộ nhớ phiên làm việc (session memory) để ngăn DJ lặp lại các bài hát trong khoảng thời gian ngắn, điều này được chứng minh là quan trọng hơn cả kích thước mô hình. Dự án chạy hoàn toàn trên phần cứng cục bộ bằng Docker, chỉ yêu cầu một lệnh gọi API bên ngoài duy nhất tới Open-Meteo để cập nhật thời tiết.