Google ra mắt EmbeddingGemma 2: Mô hình nhúng đa thức 740 triệu tham số cho thiết bị di động
Google đã phát hành EmbeddingGemma 2 theo giấy phép mã nguồn mở Apache 2.0, mang đến mô hình nhúng đa thức 740 triệu tham số dạng mô-đun giúp hợp nhất văn bản, mã nguồn, hình ảnh, video và âm thanh vào một không gian vectơ chung. Khi được lượng hóa trên thiết bị di động, mô hình chỉ tiêu tốn 191 MB RAM cho các tác vụ thuần văn bản và khoảng 567 MB cho toàn bộ tính năng đa thức. Phát hành này cho phép triển khai các ứng dụng tìm kiếm đa thức và RAG (Tạo sinh hỗ trợ truy xuất) hoàn toàn ngoại tuyến và bảo mật trực tiếp trên điện thoại thông minh mà không cần phụ thuộc vào điện toán đám mây. Dung lượng bộ nhớ thấp cùng khả năng tương thích mượt mà với Gemma 4 giúp giảm đáng kể chi phí triển khai và độ trễ hệ thống cho các nhà phát triển ứng dụng di động. Mô hình ứng dụng kỹ thuật Học biểu diễn Matryoshka (MRL), cho phép cắt gọt linh hoạt kích thước vectơ đầu ra từ 768 xuống 128 chiều để giảm dung lượng lưu trữ trong cơ sở dữ liệu vectơ lên tới 6 lần. Mô hình cũng sở hữu cửa sổ ngữ cảnh 8K token, có khả năng xử lý tối đa 5,5 phút âm thanh hoặc 58 khung hình video trong một đầu vào.
## KIẾN THỨC NỀN
Các mô hình nhúng (embedding models) chuyển đổi dữ liệu phi cấu trúc như văn bản, âm thanh và hình ảnh thành các vectơ số để máy tính dễ dàng tính toán độ tương đồng trong các tác vụ tìm kiếm và truy xuất. Bộ kiểm thử MTEB (Massive Text Embedding Benchmark) dùng để đánh giá chất lượng mô hình nhúng trên nhiều tác vụ khác nhau, trong khi kỹ thuật Học biểu diễn Matryoshka (MRL) giúp cắt nhỏ kích thước vectơ mà không cần huấn luyện lại.