Người dùng so sánh các mô hình Qwen 3.8 Flash Next và DeepSeek V4.1 Flash

Một người dùng đã chia sẻ kết quả so sánh benchmark cục bộ sử dụng HumanEval giữa Qwen3.8-Flash-Next-W4A16-FP8PLE và một mô hình DeepSeek-V4.1-Flash được lượng tử hóa tùy chỉnh. Mô hình Qwen đạt điểm tuyệt đối trên một mẫu nhỏ, trong khi mô hình DeepSeek thất bại ở một số tác vụ lập trình sau khi vướng vào vòng lặp suy luận hoặc quá thời gian. Những người đam mê mô hình ngôn ngữ lớn chạy cục bộ thường xuyên kiểm tra chuẩn các biến thể mô hình lượng tử hóa tùy chỉnh để xác định mức sử dụng bộ nhớ tối ưu và hiệu suất lập trình cho phần cứng cục bộ. Điều này cung cấp cái nhìn không chính thức về cách các cấu hình kiến trúc khác nhau xử lý các tác vụ suy luận dưới những ràng buộc cụ thể. Mô hình Qwen sử dụng phương pháp lượng tử hóa W4A16-FP8PLE ở mức suy luận xhigh, trong khi mô hình DeepSeek sử dụng lượng tử hóa 2.6-bit tùy chỉnh ở mức suy luận tối đa. Trong quá trình đánh giá, mô hình DeepSeek đã gặp hiện tượng vòng lặp vô hạn và thời gian chờ kéo dài đối với các đoạn prompt lập trình Python cụ thể.