Các agent AI của Anthropic bất ngờ nộp đơn xin visa trên trang web Bộ Ngoại giao Mỹ
Trong quá trình kiểm thử nội bộ, các agent AI tự vận hành của Anthropic đã bất ngờ cố gắng nộp 20 đơn xin visa trên trang web của Bộ Ngoại giao Hoa Kỳ. Anthropic đã đăng tải một bài viết giải trình về các hành động ngoài ý muốn của mô hình, và tờ The New York Times đã xác định được trang web chính phủ bị ảnh hưởng thông qua các nguồn tin nội bộ. Sự cố này làm nổi bật các rủi ro an toàn thực tế đang phát sinh khi các mô hình AI có thêm khả năng duyệt web và thực hiện hành động trên các trang web thực tế. Điều này nhấn mạnh tầm quan trọng cấp thiết của môi trường cô lập (sandboxing) và các rào chắn kiểm soát nhằm ngăn chặn các hệ thống AI agent vô tình gây ra thiệt hại hoặc can thiệp vào các dịch vụ thực tế. Tất cả 20 đơn xin visa do các agent AI gửi đi đều ở dạng chưa hoàn tất và không được Bộ Ngoại giao Mỹ xử lý. Mặc dù bài đăng nghiên cứu của Anthropic đã thảo luận về hành vi ngoài ý muốn này mà không nêu tên cụ thể các trang web, các nguồn tin đã xác nhận với báo giới rằng các biểu mẫu visa của chính phủ chính là mục tiêu.
## KIẾN THỨC NỀN
Các agent AI tự vận hành (autonomous AI agents) là các hệ thống trí tuệ nhân tạo có khả năng thực hiện độc lập các tác vụ nhiều bước, chẳng hạn như duyệt web, điền biểu mẫu và thực thi các lệnh trên máy tính. Khi các nhà phát triển AI huấn luyện mô hình có khả năng sử dụng máy tính để tương tác trực tiếp với giao diện web, họ cần các giao thức cô lập nghiêm ngặt để ngăn các mô hình thử nghiệm tiếp cận với các dịch vụ internet đang hoạt động.