Trung Quốc trấn áp lạm dụng AI và 'rác kỹ thuật số' trên các mô hình lớn

Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) đã công bố kết quả giai đoạn hai của chiến dịch dọn dẹp vi phạm AI, xóa hơn 5,61 triệu bài viết vi phạm, xử lý 49.000 tài khoản và rà soát 2.400 ứng dụng, website. Các mô hình AI hàng đầu như Doubao, Yuanbao, Qwen và Ernie Bot hiện phải tuân thủ quy trình kiểm duyệt dữ liệu đầu vào nghiêm ngặt và bắt buộc gắn nhãn nội dung AI. Đợt truy quét này thể hiện sự can thiệp pháp lý mạnh mẽ của Trung Quốc đối với AI tạo sinh, buộc cả nhà phát triển mô hình gốc lẫn nền tảng mạng xã hội phải chịu trách nhiệm trực tiếp về tình trạng lạm dụng truyền thông tổng hợp. Chiến dịch tạo ra tiền lệ tuân thủ nghiêm ngặt, yêu cầu kiểm soát toàn diện đối với deepfake, nội dung tự động chất lượng kém và hành vi thao túng thuật toán. Các nội dung bị xử lý bao gồm giả mạo hình ảnh/giọng nói (deepfake), mạng lưới tài khoản ảo chạy bằng AI, 'hoạt hình độc hại' nhắm vào trẻ em, và việc dùng AI chỉnh sửa biến dạng tác phẩm kinh điển bị gọi là 'rác kỹ thuật số'. Các nền tảng lớn đã nâng cấp hệ thống nhận diện đa thức và mở rộng cơ sở dữ liệu khuôn mặt, giọng nói để chặn nội dung AI vi phạm theo thời gian thực.