Cảnh sát Trung Quốc triệt phá đường dây lừa đảo mai mối bằng AI nhắm vào phụ nữ lớn tuổi

Cảnh sát Thành Đô, Trung Quốc đã bắt giữ 28 nghi phạm điều hành một công ty mai mối giả mạo, sử dụng hình ảnh nam giới do AI tạo ra để nhắm vào phụ nữ trung niên và lớn tuổi. Băng nhóm này đã lừa đảo hơn 50 nạn nhân với số tiền hơn 1 triệu Nhân dân tệ chỉ trong chưa đầy một năm thông qua việc thu phí dịch vụ giả. Vụ việc này cho thấy những kẻ lừa đảo đang ngày càng lạm dụng ảnh đại diện do AI tạo ra và công nghệ giả giọng nói để thực hiện các vụ lừa đảo tình cảm và thao túng tâm lý trên quy mô lớn. Điều này nhấn mạnh nhu cầu cấp thiết đối với các nền tảng video ngắn và mạng xã hội trong việc nâng cấp thuật toán phát hiện AI và áp dụng các biện pháp kiểm soát rủi ro nghiêm ngặt hơn. Công ty lừa đảo này đã thuê nhân viên bán hàng, dựng video và livestream để sử dụng các kịch bản soạn sẵn, thiết bị đổi giọng nói và ảnh đại diện nam do AI tạo ra nhằm xây dựng lòng tin. Sau khi nạn nhân đóng phí mai mối, những kẻ lừa đảo sẽ cắt đứt liên lạc hoặc để nhân viên chăm sóc khách hàng tiếp tục trò lừa bịp thay vì cung cấp dịch vụ thực tế.