Đánh giá mô hình MOSS-Transcribe-Diarize 0.9B chạy cục bộ trên Apple Silicon

Một nhà phát triển đã thử nghiệm mô hình MOSS-Transcribe-Diarize 0.9B chạy cục bộ trên máy MacBook Pro dùng chip Apple Silicon với một tệp âm thanh cuộc họp dài 17,5 phút giữa 4 người từ tập dữ liệu AMI. Mô hình đã nhận diện thành công cả 4 người nói và hoàn thành nhiệm vụ trong 12 phút với tỷ lệ nhầm lẫn người nói cực kỳ thấp là 0,08%. Bài kiểm tra này chứng minh rằng các mô hình đa phương thức trọng lượng nhẹ có thể thực hiện đồng thời việc chuyển đổi giọng nói thành văn bản và phân đoạn người nói cục bộ trên phần cứng tiêu dùng với độ chính xác cao. Khả năng này hỗ trợ các quy trình xử lý giọng nói hiệu quả, bảo mật dữ liệu mà không cần phụ thuộc vào các API đám mây đắt đỏ. Chạy ở chế độ fp32 thông qua framework mps của Apple trên MacBook Pro dùng chip M5 Pro với 64 GB RAM, mô hình đạt tốc độ khoảng 0,68x thời gian thực. Nó cũng xử lý hiệu quả các đoạn nói chồng chéo bằng cách gán nhãn rõ ràng cho các phân đoạn bị ngắt lời từ những người nói khác nhau.