Google ra mắt ứng dụng macOS AI Edge Foresight hỗ trợ ghi chú cuộc họp ngoại tuyến
Google đã phát hành AI Edge Foresight, một ứng dụng thử nghiệm miễn phí trên macOS hỗ trợ xử lý ghi chú cuộc họp và hỏi đáp thời gian thực hoàn toàn ngoại tuyến. Được vận hành bởi mô hình EmbeddingGemma 2 mới, ứng dụng này thu âm thanh microphone và ghi chú của người dùng để tự động tóm tắt cuộc họp trên các máy Mac sử dụng chip Apple Silicon. Sự kiện này thể hiện nỗ lực của Google trong việc đưa các năng lực AI đa thức mạnh mẽ trực tiếp lên phần cứng thiết bị mà không phụ thuộc vào điện toán đám mây, giúp bảo đảm tính riêng tư tuyệt đối cho dữ liệu cuộc họp nhạy cảm. Điều này làm nổi bật xu hướng phát triển của mô hình RAG (Retrieval-Augmented Generation) cục bộ và xử lý AI trực tiếp trên máy tính cá nhân. Ứng dụng này sử dụng EmbeddingGemma 2, một mô hình nhúng đa thức mã nguồn mở với 740 triệu tham số được xây dựng trên kiến trúc Gemma và phát hành theo giấy phép Apache 2.0. Toàn bộ quá trình xử lý âm thanh, lập chỉ mục văn bản và truy vấn tài liệu đều diễn ra cục bộ trên máy Mac, giữ toàn bộ tệp và âm thanh hoàn toàn trên thiết bị.
## KIẾN THỨC NỀN
Các mô hình nhúng đa thức giúp chuyển đổi dữ liệu không cấu trúc như văn bản, hình ảnh và âm thanh thành các đại diện vectơ số học để phục vụ tìm kiếm ngữ nghĩa và RAG (Retrieval-Augmented Generation). Trước đây, việc vận hành các mô hình này đòi hỏi máy chủ đám mây, nhưng những tối ưu hóa kiến trúc hiện đại đã cho phép các mô hình nhúng chất lượng cao chạy cục bộ ngay trên các dòng chip người dùng như Apple Silicon.