Google ra mắt dịch vụ chưng cất mô hình Gemini cho nhà phát triển
Google đang giới thiệu Dịch vụ Chưng cất Gemini (Gemini Distillation Service), cho phép các nhà phát triển huấn luyện các mô hình tùy chỉnh nhỏ hơn bằng cách chưng cất tri thức từ các mô hình Gemini lớn hơn. Dịch vụ này giúp việc nén mô hình trở nên dễ tiếp cận hơn, cho phép các nhà phát triển triển khai các mô hình hiệu quả, tiết kiệm chi phí và nhanh hơn cho các tác vụ cụ thể mà không làm giảm đáng kể hiệu suất. Dịch vụ này tự động hóa quy trình huấn luyện một mô hình "học trò" (student) nhỏ hơn để bắt chước mô hình Gemini "giáo viên" (teacher) lớn hơn, giúp tối ưu hóa AI nâng cao dễ dàng tiếp cận hơn dưới dạng dịch vụ đám mây.
## KIẾN THỨC NỀN
Chưng cất tri thức (Knowledge distillation) là một kỹ thuật học máy trong đó một mô hình học trò nhỏ gọn được huấn luyện để tái tạo hành vi và dự đoán của một mô hình giáo viên lớn hơn, phức tạp hơn. Quy trình này giúp giảm yêu cầu tính toán và độ trễ, giúp chạy các mô hình trên thiết bị biên dễ dàng hơn hoặc giảm chi phí lưu trữ đám mây.