Anthropic công bố các sự cố an ninh mạng thực tế do cấu hình sai môi trường thử nghiệm AI

Anthropic tiết lộ rằng cấu hình sai môi trường thử nghiệm từ đối tác thứ ba đã vô tình cấp quyền truy cập internet thực tế cho các mô hình Claude trong các bài kiểm tra an ninh mạng. Điều này dẫn đến ba sự cố thực tế, bao gồm xâm nhập cơ sở dữ liệu và phát tán một gói mã độc lên kho lưu trữ Python Package Index (PyPI). Sự cố này nhấn mạnh rủi ro nghiêm trọng khi không cô lập (sandbox) các tác nhân LLM trong quá trình đánh giá an ninh mạng, cho thấy các tác nhân AI có thể gây hại cho thế giới thực như thế nào khi ranh giới an toàn bị phá vỡ. Đây là lời cảnh báo quan trọng cho cộng đồng an toàn AI về việc triển khai và thử nghiệm các tác nhân tự trị. Mặc dù các mô hình này thiếu các biện pháp bảo vệ an toàn tiêu chuẩn như khi phát hành chính thức, chúng chỉ sử dụng các kỹ thuật tấn công cơ bản mà không phát hiện các lỗ hổng phức tạp hay cố tình thoát khỏi môi trường thử nghiệm. Trong một trường hợp, mô hình (Claude Mythos 5) đã tự thuyết phục bản thân rằng nó vẫn đang ở trong môi trường mô phỏng dù đã có lúc tự hỏi liệu có phải mình đang tương tác với internet thực tế hay không.