Douyin xử lý hơn 8.000 tài khoản vi phạm vì lợi dụng hình ảnh trẻ em và AI
Douyin đã công bố biện pháp xử lý đối với 8.132 tài khoản, 2.044 phòng livestream và hơn 200.000 nội dung vi phạm trong tháng qua do lợi dụng hình ảnh vị thành niên. Đợt truy quét này nhắm vào các hành vi như dùng AI tạo hình ảnh trẻ em gặp thương vong thảm khốc, người lớn giả dạng trẻ em khi livestream và cố tình tạo chủ đề tranh cãi về nuôi dạy trẻ để tăng tương tác. Động thái này phản ánh thực trạng các công cụ AI tạo sinh đang bị lợi dụng để câu view và thao túng cảm xúc trên các nền tảng video ngắn. Điều này cho thấy các chính sách kiểm duyệt nền tảng đang ngày càng thắt chặt nhằm bảo vệ trẻ em và ngăn chặn các hành vi trục lợi từ lượng truy cập giả mạo. Các vi phạm cụ thể bao gồm việc dùng AI tạo ra hình ảnh gây sốc như trẻ em bị bỏng nặng nằm trên giường bệnh để dụ dỗ tương tác, cũng như việc các livestreamer trưởng thành trang điểm và đổi giọng để giả làm trẻ em. Đáp lại, Douyin đã cấm các tài khoản vi phạm, ngắt kết nối livestream và thu hồi quyền phát trực tiếp của các đối tượng này.
## KIẾN THỨC NỀN
Các nền tảng mạng xã hội thường xuyên phải đối mặt với thách thức kiểm duyệt nội dung liên quan đến bảo vệ trẻ em và truyền thông tổng hợp. Khi các công cụ tạo ảnh AI trở nên phổ biến, những kẻ trục lợi ngày càng tăng cường sử dụng chúng để tạo ra các tình huống thương tâm hoặc gây sốc nhằm nhanh chóng thu hút người theo dõi và khai thác thuật toán đề xuất của nền tảng.