Trợ lý giọng nói rảnh tay kết hợp Breeze TTS cục bộ và Claude Opus 5.5

Một nhà phát triển đã chia sẻ hệ thống trợ lý giọng nói rảnh tay độ trễ thấp kết hợp mô hình chuyển văn bản thành giọng nói (TTS) Breeze cục bộ, chuyển giọng nói thành văn bản (STT) và Claude Opus 5.5. Được điều khiển qua điều khiển từ xa Bluetooth Low Energy (BLE) và mic không dây, hệ thống có thể phản hồi bằng âm thanh chỉ trong khoảng 500 mili giây. Thử nghiệm này minh họa cách các mô hình TTS cục bộ cực nhanh như Breeze có thể kết hợp với LLM hàng đầu để xây dựng quy trình tương tác giọng nói tức thì. Nó cho thấy nhà phát triển có thể tự tạo các giao diện giọng nói riêng tư, hiệu năng cao để tóm tắt các tác vụ phức tạp mà không cần phụ thuộc vào dịch vụ âm thanh đám mây. Độ trễ phát âm thanh giảm xuống còn 500ms khi tắt chế độ suy luận của LLM, và tăng lên 1–1,5 giây khi bật chế độ suy luận ở mức thấp. Ngoài ra, Claude Opus 5.5 duy trì nhất quán phong cách tóm tắt ngắn gọn phù hợp cho giọng nói ngay cả trong cửa sổ ngữ cảnh lên tới 500.000 token.