Meta chạy quảng cáo cho ứng dụng lột đồ phụ nữ bằng AI nhắm vào các nữ chính trị gia
Meta được báo cáo là đã phê duyệt và chạy các quảng cáo trên nền tảng của mình để quảng bá một ứng dụng tạo ảnh khỏa thân giả mạo (deepfake) không đồng thuận. Một trong những quảng cáo này chứa một video khiêu dâm sử dụng công nghệ deepfake có hình ảnh rất giống một nữ chính trị gia Hoa Kỳ. Sự cố này làm nổi bật sự thất bại nghiêm trọng trong hệ thống kiểm duyệt quảng cáo tự động của Meta, cho thấy những kẻ xấu có thể dễ dàng vượt qua các bộ lọc an toàn để quảng bá các công cụ AI độc hại. Điều này làm gia tăng cuộc tranh luận đang diễn ra xung quanh đạo đức AI, việc quản lý deepfake không đồng thuận và sự an toàn của các nhân vật công chúng trên mạng. Các quảng cáo này quảng bá công nghệ "lột đồ bằng AI" (nudification), sử dụng học sâu để tổng hợp ảnh khỏa thân giả mạo từ các bức ảnh bình thường. Việc sử dụng deepfake giống một chính trị gia Hoa Kỳ nhấn mạnh thiệt hại tiềm tàng về mặt chính trị và cá nhân do nội dung do AI tạo ra mà không được kiểm soát.
## KIẾN THỨC NỀN
Công nghệ lột đồ bằng AI (nudification) tận dụng các kỹ thuật học sâu và tổng hợp hình ảnh, chẳng hạn như Mạng đối nghịch tạo sinh (GAN), để thao túng hình ảnh và tạo ra nội dung khiêu dâm giả mạo không đồng thuận. Bất chấp sự phẫn nộ ngày càng tăng của công chúng và các lời kêu gọi thắt chặt quy định, các công cụ này ngày càng trở nên dễ tiếp cận, gây ra những thách thức lớn cho việc kiểm duyệt nội dung trên các nền tảng mạng xã hội lớn.