Báo cáo về Hugging Face chứa công cụ deepfake gây tranh cãi quản lý AI mở

Một báo cáo truyền thông từ The Verge tiết lộ rằng nền tảng AI mã nguồn mở Hugging Face đang lưu trữ các công cụ AI tạo ảnh khỏa thân giả (undressing) và deepfake. Sự việc này đã làm gia tăng các cuộc tranh luận về việc quản lý, kiểm duyệt và khả năng áp đặt hạn chế đối với các kho lưu trữ AI mã nguồn mở. Tranh cãi này làm nổi bật sự căng thẳng ngày càng tăng giữa việc phân phối AI mã nguồn mở và các rủi ro đạo đức khi lưu trữ các mô hình độc hại. Kết quả có thể dẫn đến các chính sách lưu trữ nghiêm ngặt hơn hoặc các quy định của chính phủ làm hạn chế quyền tiếp cận của nhà phát triển đối với công nghệ AI mã nguồn mở. Các công cụ được lưu trữ bao gồm các mô hình "nudify" (tạo ảnh khỏa thân) và deepfake nhắm vào phụ nữ và trẻ em, gây ra những lo ngại nghiêm trọng về an toàn và pháp lý. Các nền tảng như Hugging Face đang đối mặt với thách thức khó khăn trong việc cân bằng giữa hợp tác mở và nhu cầu kiểm duyệt nội dung độc hại.