Ứng dụng Ollama trên Mac bổ sung tính năng chuyển văn bản thành giọng nói ngoại tuyến với MLX
Ứng dụng Ollama trên Mac đã được cập nhật để hỗ trợ tạo văn bản thành giọng nói ngoại tuyến bằng mô hình Phonon của Gradium, được vận hành thông qua framework MLX của Apple. Tính năng mới này mang lại hiệu suất nhanh hơn tới 35% trên Apple Silicon so với các bản cài đặt tham khảo tiêu chuẩn, đồng thời giữ toàn bộ quá trình xử lý dữ liệu ở thiết bị cục bộ. Bản cập nhật này mở rộng khả năng AI cục bộ vượt ra ngoài việc đọc và viết để sang tạo giọng nói, cung cấp giải pháp ngoại tuyến đảm bảo quyền riêng tư dữ liệu của người dùng. Các nhà phát triển và người dùng quan tâm đến quyền riêng tư giờ đây có thể tích hợp tính năng tổng hợp giọng nói phản hồi theo thời gian thực trực tiếp trên phần cứng Apple mà không cần phụ thuộc vào dịch vụ đám mây. Tích hợp này hỗ trợ dòng mô hình Phonon trên năm ngôn ngữ và nhiều giọng điệu khác nhau, cho phép tạo âm thanh theo thời gian thực ngay khi văn bản đang được tạo ra. Mặc dù hiện tại có sẵn trên macOS thông qua kiến trúc bộ nhớ thống nhất của Apple, các phiên bản cho Windows và Linux sẽ được ra mắt trong các bản cập nhật tiếp theo.
## KIẾN THỨC NỀN
Ollama là một nền tảng mã nguồn mở được thiết kế để dễ dàng chạy và quản lý các mô hình ngôn ngữ lớn cục bộ trên phần cứng phổ thông. MLX của Apple là một framework mảng mã nguồn mở được tối ưu hóa cho học máy trên Apple Silicon, tận dụng trực tiếp framework Metal để tính toán GPU hiệu suất cao mà không cần các lớp chuyển đổi trung gian.