So sánh hiệu năng thực tế: DeepSeek-V4-Flash-Vision với Qwen3.8-Flash-Next

Một người dùng đã so sánh hiệu năng hai mô hình lượng hóa Q8 của DeepSeek-V4-Flash-Vision và Qwen3.8-Flash-Next chạy cục bộ trên hệ thống APU AMD Strix Halo kép qua llama.cpp RPC. Kết quả cho thấy mặc dù DeepSeek-V4 có tốc độ tạo token thô chậm hơn khoảng 40%, mô hình này lại hoàn thành các tác vụ lập trình phức tạp nhanh gấp hai lần so với Qwen3.8. Thử nghiệm thực tế này cho thấy tốc độ tạo token thô cao không đồng nghĩa với thời gian hoàn thành công việc nhanh hơn nếu mô hình gặp hiện tượng ảo giác hoặc suy diễn quá mức. Đồng thời, nó cũng chứng minh tính khả thi của hệ thống bộ nhớ hợp nhất đa APU trong việc chạy cục bộ các mô hình LLM lớn. Thử nghiệm được thực hiện trên hai hệ thống Strix Halo 128GB kết nối qua cổng USB-C 4 sử dụng backend RPC của llama.cpp. DeepSeek-V4 đã hoàn thành tác vụ lập trình thử nghiệm trong 12 phút ở chế độ 'medium' so với 25 phút của Qwen3.8, trong khi Qwen3.8 không thể hoàn thành tác vụ sau 3 giờ ở chế độ 'xhigh' do suy diễn chỉ dẫn quá mức.