Douyin Triệt Phá Đường Dây Phát Tán Nội Dung Đồi Trụy Bằng AI, 29 Người Bị Bắt
Douyin đã công bố kết quả chiến dịch dọn dẹp môi trường mạng mùa hè, gỡ bỏ 209.000 nội dung vi phạm và xử lý 78.000 tài khoản. Chiến dịch này đã triệt phá ba băng nhóm tội phạm mạng, bắt giữ 29 đối tượng sử dụng hình tượng giả mạo "mẹ đơn thân" và nội dung gợi dục do AI tạo ra để dẫn dụ người dùng sang các ứng dụng khiêu dâm bên ngoài. Chiến dịch này làm nổi bật thách thức ngày càng lớn mà các nền tảng phải đối mặt khi các đối tượng xấu tăng cường sử dụng nội dung do AI tạo ra và các thủ đoạn điều hướng lưu lượng tinh vi để vượt qua kiểm duyệt. Điều này nhấn mạnh sự cần thiết của việc các nền tảng mạng xã hội phải liên tục nâng cấp mô hình phát hiện để chống lại các băng nhóm tội phạm mạng và lừa đảo đang không ngừng biến tướng. Các đối tượng vi phạm đã sử dụng các kỹ thuật đối kháng như biểu tượng cảm xúc vẽ tay, nhãn dán và tổ hợp ký tự-chữ viết trong các buổi phát trực tiếp để né tránh bộ lọc tự động. Ngoài ra, hơn 3.800 tài khoản đã bị xử lý cụ thể vì sử dụng các công cụ AI để sản xuất hàng loạt hình ảnh và văn bản gợi dục tập trung vào các bộ phận cơ thể phụ nữ.
## KIẾN THỨC NỀN
Điều hướng lưu lượng (traffic redirection) trong tội phạm mạng liên quan đến việc dẫn dụ người dùng từ các nền tảng hợp pháp sang các điểm đến bên ngoài, thường là các trang web lừa đảo hoặc ứng dụng khiêu dâm trái phép. Để vượt qua hệ thống kiểm duyệt nội dung tự động, các đối tượng xấu thường sử dụng kỹ thuật né tránh bằng văn bản đối kháng (adversarial text evasion), thay đổi ký tự hoặc dùng biểu tượng để làm nhiễu các bộ phân loại xử lý ngôn ngữ tự nhiên trong khi con người vẫn đọc hiểu được. Khi các công cụ AI tạo sinh ngày càng dễ tiếp cận, các nhóm lừa đảo cũng lợi dụng chúng để nhanh chóng nhân bản các nội dung truyền thông gợi dục hoặc lừa đảo.