Người Dùng So Sánh Qwen 27B Q8 Với Qwen-Next Lượng Hóa Động Khi Lập Trình

Một người dùng trên r/LocalLLaMA báo cáo rằng mô hình Qwen 3.8 27B chạy ở độ chính xác 8-bit (Q8) cho hiệu suất lập trình tốt hơn đối với các tác vụ phức tạp so với mô hình Qwen-Next được lượng hóa động Q4. Cả hai mô hình đều được thử nghiệm cục bộ trên hệ thống Apple Silicon M5 Max bằng ứng dụng MTPLX. Quan sát thực tế này làm nổi bật sự đánh đổi hiệu suất giữa kiến trúc mô hình và mức độ lượng hóa. Nó cho thấy các mô hình có độ chính xác cao hơn ở mức 8-bit thường vượt trội hơn các phiên bản lượng hóa bit thấp (Q4), ngay cả khi so sánh các mô hình cũ hơn với thế hệ mô hình mới hơn. So sánh được thực hiện bằng ứng dụng MTPLX dành riêng cho Mac, được cấu hình lượng hóa trọng số động 4-bit và cơ chế chú ý (attention) 8-bit cho Qwen-Next. Tác vụ được thử nghiệm liên quan đến các agent lập trình Node.js tự động chạy qua framework pi-agents.