Hugging Face vô hiệu hóa mô hình AI dành cho tấn công mạng

Hugging Face đã vô hiệu hóa quyền truy cập vào một mô hình AI được loại bỏ rào cản bảo vệ (abliterated) phục vụ cho các hoạt động tấn công mạng. Hành động xử lý này đã kích hoạt cuộc tranh luận rộng rãi trong cộng đồng AI mã nguồn mở về chính sách kiểm duyệt của nền tảng. Là nền tảng lưu trữ hàng đầu cho AI mã nguồn mở, các quyết định kiểm duyệt của Hugging Face tạo ra tiền lệ quan trọng về quy chuẩn an toàn trong hệ sinh thái lập trình. Điều này làm nổi bật sự căng thẳng ngày càng tăng giữa tính linh hoạt của mã nguồn mở và rủi ro từ các mô hình bị lạm dụng cho mục đích tấn công mạng. Mô hình bị tác động sử dụng kỹ thuật 'abliteration' nhằm xóa bỏ các rào cản từ chối có sẵn mà không cần huấn luyện lại toàn bộ. Thành viên cộng đồng nhấn mạnh rằng dù việc hạn chế các công cụ mạng nguy hiểm là hợp lý, Hugging Face cần cung cấp lý do rõ ràng và minh bạch hơn khi vô hiệu hóa kho lưu trữ.