Meta bị tố chậm trễ gỡ quảng cáo ứng dụng AI "lột đồ" ảnh trẻ em
Ars Technica đưa tin Meta đã chậm trễ trong việc gỡ bỏ các quảng cáo trên Facebook và Instagram nhằm quảng bá những ứng dụng AI tạo ảnh deepfake nhạy cảm từ ảnh thực tế của các cô gái trẻ. Các quảng cáo này đã sử dụng trực tiếp hình ảnh vị thành niên trên các nền tảng mạng xã hội để tiếp thị phần mềm chỉnh sửa ảnh. Sự việc này cho thấy sự thất bại nghiêm trọng trong khâu kiểm duyệt quảng cáo của Meta đối với việc tạo hình ảnh nhạy cảm không đồng thuận nhắm vào trẻ em. Nó củng cố yêu cầu cấp thiết về việc giám sát pháp lý nghiêm ngặt hơn và thiết lập các hàng rào an toàn cho công cụ AI tạo sinh cũng như quảng cáo trên mạng xã hội. Các quảng cáo đã quảng bá phần mềm có khả năng xóa quần áo khỏi hình ảnh, sử dụng chính ảnh Instagram thực tế của các cô gái trẻ làm tư liệu minh họa. Meta đối mặt với làn sóng chỉ trích gay gắt vì không thể chủ động phát hiện và gỡ bỏ nhanh chóng các chiến dịch vi phạm trắng trợn chính sách an toàn của chính mình.
## KIẾN THỨC NỀN
Các mô hình AI tạo sinh có thể chỉnh sửa hình ảnh để tạo ra ảnh giả mạo vô cùng sống động, thường được gọi là deepfake. Các ứng dụng "lột đồ" (nudify) tận dụng kỹ thuật thị giác máy tính này để tạo ra hình ảnh nhạy cảm không có sự đồng ý của chủ thể. Dù các công ty công nghệ lớn như Meta có chính sách cấm nội dung khiêu dâm không đồng thuận và bóc lột trẻ em, hệ thống kiểm duyệt tự động vẫn thường gặp khó khăn trong việc ngăn chặn các quảng cáo vi phạm trước khi chúng tiếp cận người dùng.