Mô hình local Qwen3.8 tự tạo và sửa lỗi game 3D qua agent harness
Một nhà phát triển đã trình diễn việc sử dụng mô hình nén chạy local (Qwen3.8-Flash-Next nén bằng Intel AutoRound W4A16) trong khung agent OMP để tự tạo và sửa lỗi một tựa game 3D trên trình duyệt từ một câu lệnh ngắn gọn, mơ hồ. Trong 3 giờ hoạt động, agent này đã tự động điều khiển đồng thời 2 trình duyệt để kiểm thử giao diện và tính năng, từ đó sửa lỗi và hoàn thiện mã nguồn HTML/JavaScript. Thử nghiệm này minh họa khả năng ngày càng cao của việc thực thi các quy trình tự động lập trình phần mềm phức tạp kéo dài nhiều giờ hoàn toàn trên phần cứng local bằng các mô hình mã nguồn mở nén. Nó cho thấy cách các khung agent tích hợp khả năng chạy trình duyệt giúp các mô hình nhỏ hơn tự sửa lỗi của chính mình thông qua các vòng lặp phản hồi liên tục. Hệ thống chạy cục bộ trên 4 GPU NVIDIA V620, đạt tốc độ khoảng 2.000 token/giây (prefill) và 70 token/giây (decode) nhờ phương pháp nén Intel AutoRound W4A16. Khung agent OMP đóng vai trò quản lý trạng thái và điều khiển trình duyệt hoạt động liên tục để phát hiện các lỗi runtime cũng như lỗi hiển thị trong suốt 3 giờ.
## KIẾN THỨC NỀN
Các phương pháp lượng tử hóa (quantization) như Intel AutoRound nén các tham số của LLM xuống mức bit thấp (như trọng số 4-bit) nhằm giảm dung lượng bộ nhớ mà vẫn giữ được hiệu năng của mô hình. Các khung agent như OMP (Oh My Pi) bao bọc mô hình ngôn ngữ với khả năng thực thi công cụ bên ngoài, quản lý trạng thái và tự động hóa trình duyệt, cho phép AI chạy mã nguồn và quan sát kết quả trong một môi trường phản hồi khép kín.