Douyin triệt phá 50,7 triệu tài khoản lạm dụng trí tuệ nhân tạo
Douyin thông báo đã xử lý 50,7 triệu tài khoản vi phạm và 1,135 triệu video ngắn trong tháng qua nhằm nhắm vào các tài khoản marketing ác ý lạm dụng công cụ trí tuệ nhân tạo. Nền tảng này đã xác định nhiều hình thức lạm dụng, bao gồm câu tương tác bằng AI, giả mạo người nổi tiếng bằng hình nhân kỹ thuật số và nhân bản giọng nói, cũng như sản xuất hàng loạt thông tin sai lệch. Hành động thực thi này nhấn mạnh thách thức ngày càng lớn trong việc quản lý tình trạng lạm dụng trí tuệ nhân tạo tạo sinh trên các nền tảng mạng xã hội, nơi các đối tượng xấu khai thác công cụ tự động để mở rộng quy mô spam và lừa đảo. Việc bảo vệ tính toàn vẹn của hệ sinh thái nền tảng trước sự thao túng ở quy mô công nghiệp là rất quan trọng để duy trì niềm tin của người dùng và đảm bảo cạnh tranh công bằng cho các nhà sáng tạo chân chính. Ngoài việc khóa tài khoản, 302,000 tài khoản đã được hướng dẫn sáng tạo tuân thủ thông qua việc tham gia giáo dục quy định và kiểm tra của nền tảng. Đợt quét này nhắm cụ thể vào các mạng lưới ngầm có tổ chức chuyên cung cấp các hướng dẫn và mẫu để sản xuất hàng loạt nội dung do AI tạo ra giống hệt nhau trên nhiều tài khoản.
## KIẾN THỨC NỀN
Các công cụ trí tuệ nhân tạo tạo sinh đã làm giảm đáng kể rào cản sáng tạo nội dung, nhưng chúng thường xuyên bị các đối tượng xấu lợi dụng để xây dựng các mạng lưới tài khoản tự động lớn, thường gọi là các hội nhóm marketing hoặc spam. Các kỹ thuật như hình nhân kỹ thuật số AI và nhân bản giọng nói tổng hợp cho phép kẻ lừa đảo ngụy tạo ra các nhân vật, lời chứng thực hoặc tin tức giả mạo đầy sức thuyết phục nhằm đánh lừa người dùng để trục lợi thương mại hoặc tạo leads bất hợp pháp.