Nativ: Ứng dụng macOS mới giúp chạy các mô hình AI cục bộ qua MLX

Nhà phát triển Prince Canuma đã giới thiệu Nativ, một ứng dụng máy tính dành cho macOS giúp đóng gói framework MLX của Apple để chạy cục bộ các mô hình AI ngôn ngữ và thị giác. Ứng dụng này cung cấp giao diện trò chuyện và máy chủ API cục bộ (localhost), tương tự như LM Studio. Ứng dụng này đơn giản hóa quy trình chạy và thử nghiệm các mô hình AI cục bộ cho các nhà phát triển macOS bằng cách tận dụng framework MLX được tối ưu hóa cho Apple Silicon. Điều này mang lại một giải pháp thay thế thân thiện với người dùng so với các công cụ dòng lệnh và tích hợp liền mạch với các quy trình làm việc cục bộ hiện có. Nativ tự động phát hiện và tải các mô hình MLX đã có sẵn trong thư mục bộ nhớ đệm (cache) Hugging Face của người dùng. Ứng dụng được xây dựng bởi tác giả của thư viện MLX-VLM, một công cụ được thiết kế để suy luận và tinh chỉnh các Mô hình Ngôn ngữ Thị giác trên Mac.