Thiết kế các tác nhân AI có khả năng tự sửa lỗi
Một hướng dẫn mới phác thảo quy trình thiết kế và xây dựng các tác nhân AI có khả năng tự phát hiện và sửa lỗi trong quá trình thực thi. Hướng dẫn này tập trung vào việc chuyển đổi từ hiểu biết về các dạng lỗi sang triển khai xây dựng tác nhân thực tế. Tự sửa lỗi là một mô hình thiết kế tác nhân quan trọng giúp giảm thiểu hiện tượng ảo tưởng của LLM và nâng cao độ tin cậy của kết quả đầu ra mà không cần sự can thiệp liên tục của con người. Việc cho phép các tác nhân tự đánh giá giúp chúng khả thi hơn nhiều đối với các quy trình làm việc tự động trong môi trường sản xuất thực tế. Việc triển khai bao gồm thiết lập các vòng lặp phản hồi khép kín, thường sử dụng một mô hình đánh giá độc lập (critic model) hoặc LLM-as-a-judge để đánh giá kết quả đầu ra nhằm tránh thiên kiến tự xác nhận. Các nhà phát triển phải xác định rõ các dạng lỗi cụ thể và thuật ngữ trước khi xây dựng cơ chế tự phản hồi của tác nhân.
## KIẾN THỨC NỀN
Các tác nhân AI (AI agents) là các hệ thống tự vận hành được hỗ trợ bởi các mô hình ngôn ngữ lớn (LLM), có khả năng sử dụng công cụ và đưa ra quyết định để đạt được mục tiêu. Trong các thiết lập truyền thống, tác nhân có thể đưa ra dữ liệu sai hoặc bị ảo tưởng mà không hề nhận ra. Mô hình phản hồi (reflection pattern), được phổ biến bởi chuyên gia AI Andrew Ng như một trong những mô hình thiết kế tác nhân cốt lõi, giới thiệu một vòng lặp nơi tác nhân tự đánh giá các hành động của chính mình và cải thiện kết quả đầu ra một cách lặp đi lặp lại.