Oído: Nhận dạng giọng nói mã nguồn mở vượt Whisper-tiny chạy trên vi điều khiển 5 USD
Nhóm Lokutor đã phát hành Oído, một hệ thống nhận dạng giọng nói mã nguồn mở chạy mô hình Conformer-CTC 13 triệu tham số (được lượng hóa int8) trực tiếp trên vi điều khiển ESP32-S3 giá rẻ. Hệ thống này đạt độ chính xác cao hơn mô hình Whisper-tiny của OpenAI chạy trên máy tính xách tay, với Tỷ lệ Lỗi Từ (WER) thấp hơn trên các bộ dữ liệu thử nghiệm chuẩn và môi trường nhiều tiếng ồn. Dự án này chứng minh rằng khả năng nhận dạng giọng nói tự động thời gian thực với chất lượng cao có thể triển khai trên phần cứng giá rẻ mà không cần đến GPU, NPU chuyên dụng hay API đám mây. Điều này mở ra những khả năng mới cho các giao diện giọng nói hoàn toàn cục bộ, bảo vệ quyền riêng tư trên các thiết bị nhà thông minh và phần cứng IoT nhúng. Oído sử dụng mô hình NVIDIA Conformer-CTC Small 13 triệu tham số dạng lượng hóa int8, chạy trên chip ESP32-S3 có 8 MB PSRAM mà không cần tăng tốc GPU hay NPU. Trên bộ dữ liệu LibriSpeech, mô hình đạt WER (sạch/nhiễu) là 3.7 / 8.2 so với 6.3 / 15.9 của Whisper-tiny, đồng thời duy trì WER trung bình thấp hơn (8.4 so với 12.1) trong các điều kiện tiếng ồn thực tế.
## KIẾN THỨC NỀN
Hiệu suất của các hệ thống Nhận dạng Giọng nói Tự động (ASR) thường được đánh giá bằng Tỷ lệ Lỗi Từ (WER), trong đó tỷ lệ phần trăm thấp hơn thể hiện ít lỗi chuyển đổi hơn. Các mô hình ASR phổ biến như Whisper của OpenAI sử dụng kiến trúc transformer tự hồi quy đòi hỏi sức mạnh tính toán và bộ nhớ lớn. Kiến trúc Conformer-CTC kết hợp các lớp cuộn và cơ chế tự chú ý (self-attention) với Connectionist Temporal Classification, cho phép giải mã không tự hồi quy với hiệu quả tính toán vượt trội trên các vi điều khiển bị giới hạn tài nguyên.