Mẫu Qwen Image 2.1 FP8 chất lượng cao được phát hành cho Unsloth Studio
Unsloth Studio đã phát hành bản cập nhật hỗ trợ phiên bản lượng tử hóa FP8 nhanh của Qwen Image 2.1 chạy dưới 10GB VRAM. Phản hồi từ cộng đồng cho thấy mô hình siêu nhẹ này tạo ra hình ảnh chất lượng cao đáng kinh ngạc ngay trên máy cục bộ. Việc nén các mô hình khuếch tán hình ảnh hàng đầu xuống dưới 10GB giúp nhà sáng tạo chạy các công cụ tạo ảnh AI cao cấp cục bộ trên GPU phổ thông. Điều này hạ thấp rào cản phần cứng và giảm sự phụ thuộc vào các dịch vụ đám mây đắt đỏ hoặc card đồ họa doanh nghiệp. Mô hình tận dụng kỹ thuật lượng tử hóa FP8 (dấu phẩy động 8-bit) để giảm mạnh dung lượng bộ nhớ mà vẫn giữ cho chất lượng hình ảnh không bị suy giảm đáng kể. Người dùng cần cập nhật lên phiên bản Unsloth Studio mới nhất để chọn và chạy biến thể mô hình mới này.
## KIẾN THỨC NỀN
Lượng tử hóa là một kỹ thuật trong máy học giúp chuyển đổi các giá trị độ chính xác cao sang định dạng độ chính xác thấp hơn như FP8, qua đó thu nhỏ kích thước trọng số mô hình và tăng tốc độ suy luận. Unsloth AI cung cấp nền tảng nguồn mở và ứng dụng máy tính được thiết kế để chạy cũng như tinh chỉnh các mô hình AI cục bộ với hiệu suất cao.