Quy trình thủ công so với tự động hóa khi lập trình bằng LLM cục bộ
Một cuộc thảo luận trong cộng đồng lập trình viên đã nổ ra xoay quanh việc liệu họ thích kiểm soát thủ công từng bước hay sử dụng các tác tử tự động hoàn toàn khi lập trình bằng mô hình ngôn ngữ lớn (LLM) cục bộ. Câu hỏi đặc biệt đặt nghi vấn về tính thực tiễn của việc để các mô hình cục bộ nhỏ hơn, chẳng hạn như loại 9 tỷ (9B) tham số, chạy tự động hoàn toàn mà không có sự giám sát của con người. Khi các công cụ lập trình AI chuyển dịch từ tự động hoàn thành cơ bản sang các tác tử phát triển phần mềm tự động từ đầu đến cuối, việc hiểu sở thích của lập trình viên sẽ giúp định hình thiết kế của các IDE tích hợp AI trong tương lai. Điều này làm nổi bật sự mâu thuẫn giữa triển vọng của các tác tử AI tự động hoàn toàn và độ tin cậy thực tế của các mô hình nhỏ hơn chạy cục bộ. Cuộc thảo luận nhấn mạnh việc sử dụng các mô hình tham số 9B, vốn phổ biến khi triển khai cục bộ nhờ yêu cầu VRAM thấp nhưng có thể thiếu khả năng lập luận cần thiết cho các tác vụ đa bước phức tạp và tự động. Các lập trình viên thường thích quy trình "bán thủ công", nơi họ xem xét và định hướng đầu ra của AI thay vì để nó tự viết và thực thi mã nguồn một cách độc lập.
## KIẾN THỨC NỀN
LLM cục bộ là các mô hình AI chạy trực tiếp trên phần cứng của người dùng, mang lại sự riêng tư và khả năng truy cập ngoại tuyến, trong đó các mô hình từ 7B đến 9B là điểm khởi đầu cho GPU tiêu dùng. Mặc dù các tác tử AI tự động hướng tới việc xử lý toàn bộ vòng đời phát triển phần mềm (từ yêu cầu đến triển khai), chúng thường đòi hỏi khả năng lập luận cao cấp mà các mô hình cục bộ nhỏ hơn khó có thể cung cấp một cách nhất quán.