Người Dùng Reddit Dùng Qwen 27B Cục Bộ Để Tạo Trò Chơi 3D Qua Pi Agent
Một nhà phát triển đã thử nghiệm chạy mô hình Qwen 27B lượng hóa cục bộ bằng framework Pi coding agent để tạo trò chơi 3D dựa trên tài liệu thiết kế khổng lồ 267 KB. Quá trình chạy liên tục 12 giờ đã xử lý 11 triệu token đầu vào và tạo ra 3,2 triệu token đầu ra trên phần cứng cá nhân. Thử nghiệm này chứng minh tính khả thi của phần cứng cá nhân trong việc thực hiện các tác vụ kỹ thuật phần mềm phức tạp kéo dài nhiều giờ bằng các mô hình mã nguồn mở. Nó cho thấy việc kết hợp framework agent tối giản với khả năng tối ưu ngữ cảnh có thể giúp các nhà phát triển tự xây dựng dự án lớn mà không cần phụ thuộc vào API đám mây thương mại. Người dùng đã chạy phiên bản lượng hóa Q4_X_L của Qwen 27B qua llama-server với cửa sổ ngữ cảnh 120k, đẩy xử lý thị giác (vision) sang CPU và bật Dự đoán đa token (MTP) để tối đa hóa tốc độ sinh mã. Workflow đã xử lý tệp đặc tả dài 26.000 dòng (DESIGN.md) để viết toàn bộ mã nguồn cho trò chơi đồ họa 3D.
## KIẾN THỨC NỀN
Pi là một agent lập trình AI gọn nhẹ trên giao diện dòng lệnh, được thiết kế để tiết kiệm token prompt hệ thống trong khi vẫn cung cấp các công cụ thao tác tệp và lệnh bash cơ bản. Multi-Token Prediction (MTP) là một kỹ thuật tối ưu hóa suy luận cho phép mô hình ngôn ngữ lớn dự đoán đồng thời nhiều token tiếp theo trong mỗi bước thay vì chỉ một token.