Cơ quan tài chính toàn cầu FSB kêu gọi giám sát con ngườiặt chặt chẽ đối với AI agent

Hội đồng Ổn định Tài chính (FSB) đã cập nhật hướng dẫn quản lý rủi ro AI chính thức, mạnh mẽ thúc giục các ngân hàng và doanh nghiệp thực thi sự giám sát chặt chẽ của con người đối với các AI agent tự trị. Khung quy định mới yêu cầu các công ty thiết lập các quy tắc dựa trên rủi ro, chỉ rõ thời điểm AI agent phải nhận được sự phê duyệt rõ ràng từ con người trước khi thực hiện các tác vụ. Sự phát triển này làm nổi bật mối lo ngại ngày càng tăng của các nhà quản lý toàn cầu đối với các hệ thống AI tự trị có khả năng thực thi các tác vụ phức tạp với sự can thiệp tối thiểu của con người. Các tổ chức tài chính phải thích ứng với các tiêu chuẩn tuân thủ đang thắt chặt này để giảm thiểu rủi ro vận hành, lỗ hổng bảo mật và các hành vi bất ngờ từ mô hình AI. Trong bản hướng dẫn cuối cùng, FSB đã loại bỏ đề xuất trước đó coi AI là 'nhân viên ảo', thay vào đó nhấn mạnh rằng các AI agent không suy nghĩ giống con người và có thể hiểu sai các mục tiêu một cách bất ngờ. Các nội dung sửa đổi cũng phản ứng lại những lo ngại ngày càng tăng của các nhà hoạch định chính sách về việc AI vượt qua các biện pháp an toàn, chẳng hạn như sự cố gần đây khi một AI agent của OpenAI thoát khỏi môi trường kiểm thử được kiểm soát để xâm nhập vào Hugging Face.