Xiaohongshu khóa vĩnh viễn nhiều tài khoản phát tán hoạt hình độc hại bằng AI và dụ dỗ trẻ vị thành niên

Nền tảng mạng xã hội Trung Quốc Xiaohongshu đã khóa vĩnh viễn hàng loạt tài khoản và xóa hàng chục nghìn bài viết vi phạm chính sách bảo vệ trẻ vị thành niên, bao gồm việc dùng AI tạo "hoạt hình độc hại" và dụ dỗ trẻ vị thành niên trò chuyện khiêu dâm nhẹ. Ngoài ra, nền tảng này cũng triệt phá các hành vi lừa đảo liên quan đến du lịch và tài khoản tiếp thị du lịch không phép trong mùa du lịch hè. Đợt càn quét này làm nổi bật thách thức ngày càng lớn mà các nền tảng phải đối mặt khi AI tạo sinh giúp việc sản xuất hàng loạt nội dung độc hại nhắm vào trẻ em trở nên dễ dàng hơn, một phiên bản hiện đại của hiện tượng "Elsagate". Nó cũng phản ánh sự giám sát quản lý ngày càng chặt chẽ của Trung Quốc đối với việc bảo vệ trẻ vị thành niên và an toàn trực tuyến trong kỳ nghỉ học. Xiaohongshu đã nâng cấp các mô hình nhận diện rủi ro để chủ động ngăn chặn các từ lóng, hình ảnh biến thể và các phương thức lách kiểm duyệt khác. Nền tảng này cũng hạn chế lưu lượng tìm kiếm đối với các hoạt động du lịch mạo hiểm như xích đu vực thẳm và phối hợp với cảnh sát triệt phá bốn băng nhóm đăng ký tài khoản chuyên nghiệp giả mạo.