Nhận dạng giọng nói nhanh trong trình duyệt qua WebGPU và SIMD WebAssembly
Một nhà phát triển đã phát hành parakeet.wgsl, một bản triển khai cục bộ không phụ thuộc thư viện ngoài của mô hình nhận dạng giọng nói NVIDIA Parakeet TDT 0.6B V2 chạy hoàn toàn trong trình duyệt. Dự án này tận dụng các shader tính toán WebGPU thuần và SIMD WebAssembly để dịch mã một giờ âm thanh chỉ trong 20 giây trên phần cứng hiện đại. Dự án này chứng minh tính khả thi của việc nhận dạng giọng nói tự động (ASR) hiệu năng cao, riêng tư và có thể hoạt động ngoại tuyến trực tiếp trên thiết bị của khách hàng mà không cần phụ thuộc vào API đám mây. Bằng cách biên dịch sang WebGPU, nó cũng mở đường cho việc dịch mã tăng tốc bằng GPU đa nền tảng trong các ứng dụng ngoại tuyến gốc. Bản triển khai này hoàn toàn tùy biến và không có phụ thuộc, sử dụng Ngôn ngữ Shader WebGPU (WGSL) để suy luận mạng thần kinh và SIMD WebAssembly cho phần xử lý âm thanh đầu vào. Nó hỗ trợ dịch mã tiếng Anh đi kèm dấu câu, viết hoa và mốc thời gian ở cấp độ từ.
## KIẾN THỨC NỀN
Parakeet TDT 0.6B V2 của NVIDIA là một mô hình nhận dạng giọng nói tự động 600 triệu tham số có độ chính xác cao. WebGPU là một tiêu chuẩn web hiện đại cho phép trình duyệt truy cập GPU của thiết bị để tính toán song song, trong khi WebAssembly (WASM) kết hợp SIMD (Đơn lệnh, Đa dữ liệu) cho phép thực thi mã biên dịch với tốc độ cao trên CPU.