Cơ quan quản lý không gian mạng Trung Quốc trấn áp tình trạng AI giả mạo người nổi tiếng

Cơ quan Quản lý Không gian Mạng Trung Quốc đã gỡ bỏ hơn 47.000 thông tin vi phạm và xử lý 3.961 tài khoản trong đợt trấn áp gần đây đối với hành vi lợi dụng AI để giả mạo người công chúng. Chiến dịch thực thi nhắm vào các nền tảng như WeChat, Douyin, Xiaohongshu, Bilibili và Kuaishou đối với các hành vi vi phạm như quảng cáo trái phép, bịa đặt tin đồn và trò đùa nhảm nhí. Hành động này làm nổi bật các nỗ lực quản lý liên tục nhằm giải quyết tình trạng lạm dụng truyền thông tổng hợp và deepfake phổ biến cho mục đích gian lận, thông tin sai lệch và trục lợi thương mại. Khi các công cụ AI tạo sinh trở nên dễ tiếp cận hơn, các chính phủ đang gia tăng áp lực lên các nền tảng công nghệ để thắt chặt kiểm duyệt nội dung và bảo vệ danh tính kỹ thuật số. Chiến dịch thực thi nhắm cụ thể vào bốn dạng vi phạm chính: giả mạo hình ảnh và giọng nói trái phép để quảng cáo thương mại, tin đồn do AI tạo ra liên quan đến bệnh tật giả mạo, tài khoản giả danh ngôi vị thứ nhất truyền bá câu chuyện cảm xúc, và phương tiện truyền thông tổng hợp miêu tả người nổi tiếng trong các tương tác dung tục hoặc thân mật. Đợt trấn áp này là một phần trong các sáng kiến diện rộng đang diễn ra, bao gồm các hoạt động đặc biệt '清朗' (Thanh Lãng) được khởi động từ đầu năm.