Meta và Apple gỡ bỏ ứng dụng deepfake AI 'Kromix' cùng quảng cáo liên quan
Meta đã gỡ bỏ các quảng cáo và Apple đã xóa ứng dụng "Kromix" khỏi App Store sau khi phát hiện ứng dụng này tạo ra các ảnh deepfake khiêu dâm không đồng thuận. Ứng dụng này, vốn tự quảng bá là công cụ "tạo phong cách ảnh AI", đã chạy các quảng cáo nhắm mục tiêu trên nền tảng của Meta, bao gồm cả quảng cáo sử dụng hình ảnh AI giống một nữ chính trị gia nổi tiếng của Mỹ. Sự việc này làm nổi bật những thách thức đang diễn ra mà các ông lớn công nghệ phải đối mặt trong việc kiểm duyệt nội dung khiêu dâm do AI tạo ra và ngăn chặn các tác nhân xấu lách quy trình kiểm duyệt của cửa hàng ứng dụng. Nó cũng nhấn mạnh mối đe dọa ngày càng tăng từ các công cụ "lột đồ" bằng AI đang bị vũ khí hóa để nhắm vào các nhân vật công chúng và cá nhân bình thường mà không có sự đồng ý của họ. Apple cho biết Kromix có thể đã vượt qua vòng kiểm duyệt App Store ban đầu bằng cách thêm các tính năng và nội dung vi phạm sau khi được phê duyệt. Ứng dụng này đã chạy 32 quảng cáo nhắm mục tiêu trên các nền tảng của Meta trước khi bị các báo cáo truyền thông phản ánh.
## KIẾN THỨC NỀN
Công nghệ "lột đồ" và thay đổi khuôn mặt bằng AI sử dụng các mô hình tạo sinh để tạo ra hình ảnh khiêu dâm giả mạo của những người ngoài đời thực, thường nhắm vào phụ nữ. Các nền tảng công nghệ như Apple và Meta có các chính sách nghiêm ngặt cấm tạo và quảng bá nội dung khiêu dâm, nhưng các nhà phát triển thường cố gắng lách các hạn chế này bằng cách ngụy trang ứng dụng của họ thành các công cụ chỉnh sửa ảnh lành mạnh.