Apple Foundation Models Cho Phép Chạy AI Cục Bộ Nguyên Bản Trên macOS
Một người dùng đã chia sẻ việc các mô hình Apple Foundation Models (AFM) có thể được chạy trực tiếp và nguyên bản trên macOS từ giao diện dòng lệnh thông qua lệnh `fm chat`. Sự tích hợp này mang đến cho nhà phát triển và người dùng quyền truy cập trực tiếp từ CLI vào các mô hình AI cục bộ được tối ưu hóa cho phần cứng. Việc tích hợp sẵn các mô hình nền tảng được tối ưu hóa phần cứng ngay trên macOS giúp đơn giản hóa quá trình phát triển ứng dụng AI cục bộ mà không cần công cụ của bên thứ ba hay API đám mây. Điều này đánh dấu một bước tiến lớn khi nhà sản xuất phần cứng lớn tích hợp sẵn khả năng chạy LLM cục bộ ngay trong hệ điều hành. Người dùng có thể khởi chạy phiên trò chuyện tương tác trực tiếp trong terminal bằng lệnh đơn giản `fm chat` do hệ thống cung cấp. Mặc dù các mô hình này tận dụng tối đa khả năng tăng tốc phần cứng của Apple Silicon, vẫn còn những băn khoăn về mức độ linh hoạt khi tinh chỉnh hoặc thay thế chúng so với các mô hình trọng số mở thông thường.
## KIẾN THỨC NỀN
Apple Foundation Models (AFM) là các mô hình AI tạo sinh được Apple thiết kế để thực thi cục bộ trên phần cứng của Apple. Việc chạy các mô hình ngôn ngữ lớn (LLM) cục bộ trước đây thường đòi hỏi người dùng phải cài đặt các môi trường thực thi của bên thứ ba như Ollama hoặc llama.cpp và tự tải các tệp trọng số. Việc hỗ trợ nguyên bản từ hệ điều hành giúp loại bỏ sự phức tạp này nhờ tận dụng thư viện hệ thống tích hợp và khả năng tăng tốc của Apple Silicon.