Một nam giới tại Tứ Xuyên bị tạm giam vì dùng ảnh ghép AI để quấy rối
Một người đàn ông họ Từ ở Tứ Xuyên, Trung Quốc, đã bị tạm giam hành chính 5 ngày sau khi sử dụng công nghệ AI để ghép ảnh riêng tư giả nhằm quấy rối và đe dọa một người quen qua mạng. Nạn nhân đã nhanh trí lưu lại lịch sử trò chuyện và ảnh chụp màn hình làm bằng chứng trước khi nghi phạm kịp thu hồi tin nhắn, dẫn đến việc bắt giữ đối tượng này. Vụ việc này nhấn mạnh mối đe dọa ngày càng tăng từ việc vũ khí hóa nội dung do AI tạo ra để quấy rối và tống tiền cá nhân, cho thấy sự cần thiết của việc thực thi pháp luật nghiêm ngặt. Nó cũng chứng minh vai trò quan trọng của việc lưu trữ bằng chứng kỹ thuật số đối với các nạn nhân bị quấy rối trên không gian mạng. Nghi phạm họ Từ đã cố gắng xóa dấu vết bằng cách thu hồi các bức ảnh đã gửi trên WeChat, nhưng việc nạn nhân chủ động chụp màn hình đã giúp cảnh sát thiết lập một chuỗi bằng chứng hoàn chỉnh. Đối tượng Từ bị xử phạt theo Điều 42 Luật Xử phạt Quản lý An ninh Công cộng của Cộng hòa Nhân dân Trung Hoa.
## KIẾN THỨC NỀN
Công nghệ Deepfake và ghép mặt bằng AI sử dụng các thuật toán học sâu để thay thế khuôn mặt của một người trong ảnh hoặc video bằng khuôn mặt của người khác, tạo ra các phương tiện truyền thông tổng hợp có độ chân thực cao. Mặc dù các công cụ này có ứng dụng sáng tạo, chúng ngày càng bị lạm dụng cho các mục đích đồi trụy phi đồng thuận, quấy rối và đánh cắp danh tính. Các cơ quan thực thi pháp luật trên toàn thế giới đang cập nhật các khung pháp lý để giải quyết các hình thức lạm dụng kỹ thuật số mới nổi này.