DigUp: Ứng Dụng Mac Mã Nguồn Mở Tìm Kiếm Tệp Đa Phương Thức Cục Bộ Với EmbeddingGemma 2
Nhà phát triển A-Rahim đã phát hành DigUp, một ứng dụng macOS bản địa miễn phí và mã nguồn mở (giấy phép MIT) chạy mô hình EmbeddingGemma 2 của Google DeepMind cục bộ để tìm kiếm tệp cá nhân bằng ngôn ngữ tự nhiên. Được xây dựng bằng Swift, llama.cpp và tăng tốc GPU Metal, ứng dụng cho phép tìm kiếm ngữ nghĩa nhanh chóng trên văn bản, hình ảnh, âm thanh, video và mã nguồn qua nhiều ngôn ngữ. DigUp cho thấy các mô hình nhúng đa phương thức lượng hóa nhẹ có thể mang lại khả năng tìm kiếm ngữ nghĩa riêng tư và tức thì trên máy tính mà không cần phụ thuộc vào API đám mây hay môi trường Python nặng nề. Điều này giúp tính năng tìm kiếm ngữ nghĩa cục bộ trở nên dễ tiếp cận và thực tế cho người dùng Mac chip Apple Silicon với mức tiêu thụ tài nguyên tối thiểu. Ứng dụng tải về mô hình lượng hóa Q8_0 GGUF dung lượng 865 MB và chỉ yêu cầu khoảng 250 MB bộ nhớ cho các truy vấn tìm kiếm, trả về kết quả trong khoảng 100 miligiây. Quá trình đánh chỉ mục xử lý âm thanh theo đoạn 30 giây và video theo từng khung hình, giữ mức tiêu thụ bộ nhớ đỉnh dưới 2 GB trên các thiết bị chạy macOS 14+.
## KIẾN THỨC NỀN
Các mô hình nhúng đa phương thức (multimodal embedding models) ánh xạ văn bản, hình ảnh và âm thanh vào một không gian vectơ toán học chung, cho phép người dùng tìm kiếm tệp truyền thông dựa trên ý nghĩa mô tả thay vì tên tệp chính xác. GGUF là định dạng tệp nhị phân được tạo bởi dự án llama.cpp cho phép chạy các mô hình AI cục bộ đã lượng hóa một cách hiệu quả trên phần cứng cá nhân thông qua các khung tăng tốc như Apple Metal.