Chạy mô hình đa phương thức MiniMax-H3 cục bộ trên Apple Silicon qua MLX

Simon Willison đã trình diễn cách chạy MiniMax-H3, một mô hình tạo sinh đa phương thức mới được phát hành, cục bộ trên Apple Silicon bằng bản chuyển đổi MLX của PipeNetwork. Quy trình này đã tạo thành công một video ngắn kèm âm thanh từ câu lệnh văn bản trên MacBook Pro chip M5 Max. Việc chuyển đổi mô hình đa phương thức tiên tiến này sang khung làm việc MLX của Apple cho phép các nhà phát triển thử nghiệm tạo video kèm âm thanh cục bộ mà không cần phụ thuộc vào API đám mây. Điều này thúc đẩy khả năng phát triển AI cục bộ trên các thiết bị phần cứng cá nhân. Quá trình thực thi cục bộ yêu cầu tải xuống khoảng 115 GB tệp mô hình và việc tạo một đoạn video ngắn mất gần 45 phút. Mặc dù chất lượng video rất ấn tượng, âm thanh tạo ra lại bị nhiễu do thiếu các hướng dẫn câu lệnh cụ thể cho phần âm thanh.