Người dùng tự xây dựng ứng dụng hóa đơn máy tính để bàn bằng AI cục bộ và phần cứng cao cấp
Một người dùng có ít kinh nghiệm lập trình đã tạo thành công một ứng dụng hóa đơn máy tính để bàn tùy chỉnh bằng các mô hình AI cục bộ và các tác vụ mã hóa. Họ đã sử dụng Qwen 3.8 27B và Open Code v2.0 chạy qua LM Studio trên GPU RTX 5090. Điều này chứng minh cách các luồng công việc AI cục bộ hiện đại và các tác vụ mã hóa giúp những người không phải lập trình viên có thể xây dựng phần mềm thực tế hoàn toàn ngoại tuyến. Nó làm nổi bật tính khả thi ngày càng tăng trong việc thay thế các dịch vụ đăng ký trả phí bằng các công cụ do AI tự tạo chạy trên phần cứng người dùng cao cấp. Quá trình phát triển đã tận dụng tính năng tự động nén ngữ cảnh của Open Code để duy trì cửa sổ ngữ cảnh từ 57K đến 90K trong mức sử dụng VRAM 31GB. Người dùng đạt được tốc độ xử lý trung bình từ 80-90 token mỗi giây bằng cách sử dụng định dạng lượng tử hóa Q4_K_M GGUF của mô hình Qwen.
## KIẾN THỨC NỀN
Các công cụ LLM cục bộ như LM Studio cho phép người dùng chạy các mô hình trí tuệ nhân tạo mã nguồn mở mạnh mẽ trực tiếp trên máy tính cá nhân mà không cần gửi dữ liệu đến các máy chủ đám mây bên ngoài. Open Code là một framework tác vụ mã hóa AI tích hợp với các mô hình cục bộ hoặc đám mây để hỗ trợ các tác vụ phát triển phần mềm trực tiếp từ thiết bị đầu cuối hoặc giao diện.