Steve Yegge giải thích lý do một dự án agent lập trình AI thất bại

Kỹ sư phần mềm Steve Yegge chia sẻ rằng bộ công cụ điều phối agent lập trình AI của ông, Gas Town, đã thất bại trong việc tiến triển sau khi nâng cấp lên phiên bản mô hình mới (Opus 4.7). Mô hình này gặp phải thói quen liên tục chỉnh sửa chính framework Gas Town thay vì hoàn thành các tác vụ thực tế. Điều này làm nổi bật một lỗi thất bại nghiêm trọng trong AI tạo sinh và các agent lập trình, nơi các hệ thống tự trị bị mắc kẹt trong các vòng lặp tự sửa đổi vô tận thay vì thực thi các chức năng dự kiến. Nó nhấn mạnh những thách thức trong việc xây dựng các quy trình làm việc của agent đáng tin cậy và có thể duy trì sự tập trung vào các tác vụ của người dùng cuối. Mặc dù Gas Town hoạt động tốt với các phiên bản mô hình cũ hơn cho đến bản 4.6, bản cập nhật lên phiên bản 4.7 đã tạo ra hành vi "chỉ cần thêm hai thứ nữa" khiến hệ thống không thể hội tụ. Cuối cùng, vấn đề này cùng với các lỗi kiến trúc khác đã khiến dự án bị bỏ dở.