Whistle: Công cụ chuyển đổi giọng nói thành văn bản siêu nhẹ dung lượng 16,9 MB

Cactus Compute đã phát hành Whistle, một mô hình chuyển đổi giọng nói thành văn bản mã nguồn mở được thiết kế để chạy cục bộ với dung lượng chỉ vỏn vẹn một tệp 16,9 MB. Mô hình này được xây dựng để hoạt động hiệu quả trên CPU thông thường trong các môi trường thiết bị biên và chạy trực tiếp trên thiết bị. Độ nhỏ gọn cực hạn này cho phép xử lý giọng nói ngoại tuyến và nhận dạng giọng nói nâng cao trên phần cứng có tài nguyên hạn chế như thiết bị di động, thiết bị đeo và vi điều khiển. Điều này làm giảm đáng kể rào cản khi triển khai các tác nhân giọng nói cục bộ, đảm bảo quyền riêng tư mà không cần phụ thuộc vào cơ sở hạ tầng đám mây nặng nề. Whistle được phát hành theo giấy phép Apache-2.0 và được thiết kế để tích hợp với môi trường thực thi Needle dành cho các mô hình ngôn ngữ nhỏ chạy trên thiết bị. Đầu vào âm thanh và quá trình xử lý công cụ hoàn toàn nằm gọn bên trong bộ máy cục bộ.