Cấu hình Qwen3.8 cục bộ vượt qua Claude Code trên bài kiểm tra Airbench
Một hệ thống AI chạy cục bộ kết hợp mô hình Qwen3.8-Flash-Next lượng tử hóa 3.5-bit, công cụ suy luận Strata và khung pi đã đạt điểm tuyệt đối 100% trên bộ kiểm thử Airbench trong 11 phút với GPU RTX 5090. Kết quả này vượt qua Claude Code Opus 5.5, vốn đạt cùng mức điểm 100% nhưng mất 14 phút để hoàn thành. Thử nghiệm này chứng minh rằng các mô hình hỗn hợp chuyên gia (MoE) mã nguồn mở chạy cục bộ trên phần cứng người dùng có thể sánh ngang các mô hình AI đám mây thương mại hàng đầu ở các tác vụ thực tế với tốc độ nhanh hơn. Điều này khẳng định sự tiến bộ vượt bậc của các công cụ suy luận cục bộ, kỹ thuật lượng tử hóa và chiến lược phân bổ bộ nhớ hiệu quả. Cấu hình này sử dụng phiên bản lượng tử hóa GSQ-RCO IQ3_S (3.5-bit) của mô hình Qwen3.8-Flash-Next, yêu cầu GPU 24 GB VRAM cùng 64 GB RAM hệ thống để lưu trữ khoảng 50 GB trọng số chuyên gia. Công cụ suy luận Strata duy trì cửa sổ ngữ cảnh 256k, kết hợp với kịch bản proxy giúp nén token và tránh tràn ngữ cảnh trong quá trình thực thi bài kiểm tra.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ Hỗn hợp Chuyên gia (MoE) mở rộng quy mô tham số tổng thể nhưng chỉ kích hoạt một phần nhỏ chuyên gia cho mỗi token để duy trì hiệu suất tính toán. Những công cụ suy luận như Strata cho phép chạy các mô hình MoE trên 100 tỷ tham số trên một GPU cá nhân bằng cách đẩy các trọng số chuyên gia chưa dùng sang RAM hệ thống. Các phương pháp lượng tử hóa tiên tiến như GSQ và RCO giúp nén mô hình xuống mức bitrate cực thấp mà vẫn giữ được hiệu năng nguyên bản.