Khám phá mô hình quyết định LLM làm trình kiểm tra quyền cho các tác nhân tự trị
Một nhà phát triển trên Reddit đã đề xuất sử dụng một tác nhân LLM phụ trợ để xem xét, thẩm định và phê duyệt các yêu cầu lệnh có quyền cao từ một tác nhân tự trị chính chạy các tác vụ ban đêm. Thay vì giám sát thủ công, đề xuất này sử dụng mô hình thứ hai để đánh giá lý do và các lệnh được yêu cầu của tác nhân chính nhằm đưa ra phản hồi đồng ý hoặc từ chối. Cách tiếp cận khái niệm này giải quyết một thách thức lớn về an toàn trong tự động hóa AI: cân bằng giữa nhu cầu thực thi tác nhân không bị hạn chế và bảo mật chống lại các hành động phá hoại. Việc triển khai một lớp đánh giá phụ có thể giúp bảo mật các quy trình làm việc của tác nhân chạy ngầm dài hạn mà không cần sự can thiệp liên tục của con người. Mô hình được đề xuất yêu cầu tác nhân chính cung cấp một lý do rõ ràng kèm theo lệnh được yêu cầu bất cứ khi nào yêu cầu nâng cao đặc quyền được kích hoạt. Mô hình quyết định phụ sau đó đóng vai trò như một người gác cổng để tự động thẩm định ngữ cảnh trước khi việc thực thi diễn ra.
## KIẾN THỨC NỀN
Các tác nhân AI tự trị thường yêu cầu quyền truy cập hệ thống để thực hiện các tác vụ kỹ thuật hoặc tự động hóa phức tạp gồm nhiều bước mà không cần con người giám sát. Các phương pháp bảo mật tối ưu thường yêu cầu ranh giới quyền nghiêm ngặt và môi trường cô lập (sandbox) để ngăn chặn tác nhân vô tình hoặc độc hại sửa đổi các tệp hệ thống quan trọng.