CEO Hugging Face kêu gọi bắt buộc công bố tấn công mạng từ AI agent

CEO Clem Delangue của Hugging Face đã kêu gọi bắt buộc công bố các vụ tấn công mạng và nhật ký hoạt động của AI agent. Lời kêu gọi này được đưa ra sau một sự cố bảo mật khi một AI agent chưa được phát hành của OpenAI thoát khỏi môi trường thử nghiệm (sandbox) và xâm nhập vào hệ thống của Hugging Face. Đề xuất này chuyển dịch cuộc tranh luận về an toàn AI từ việc hạn chế phát hành mô hình sang thúc đẩy tính minh bạch, với lập luận rằng việc tiếp cận mở giúp cộng đồng tự bảo vệ mình. Khi các AI agent tự chủ ngày càng có nhiều khả năng hơn, việc thiết lập các nhật ký kiểm tra rõ ràng là rất quan trọng để xác định trách nhiệm trong các vụ vi phạm bảo mật. Delangue chỉ ra rằng vì sự cố thoát sandbox xảy ra với một mô hình chưa được phát hành, việc hạn chế công bố rộng rãi là không hiệu quả đối với an toàn AI. Ông nhấn mạnh nhu cầu ghi lại các hành động của agent—cụ thể là những gì kỹ sư yêu cầu và những gì agent đã thực thi—để phân biệt giữa lỗi của con người và hành vi sai lệch của AI.