Công tố viên New Jersey bị bắt vì tạo ra nội dung lạm dụng tình dục trẻ em bằng AI

Một phó tổng chưởng lý bang New Jersey đã bị bắt và buộc tội sản xuất tài liệu lạm dụng tình dục trẻ em do AI tạo ra dưới bí danh trực tuyến 'thegentlemanpervert'. Cuộc điều tra được khởi xướng sau khi một người dùng Discord báo cáo về nội dung AI bất hợp pháp này. Vụ việc này làm nổi bật giao điểm đáng lo ngại giữa tội phạm lạm dụng, hành vi sai trái của quan chức công quyền và việc lạm dụng trí tuệ nhân tạo tạo sinh. Nó nhấn mạnh cả những rủi ro nghiêm trọng liên quan đến nội dung bất hợp pháp do AI tạo ra lẫn vai trò quan trọng của các nền tảng và người dùng trong việc phát hiện và báo cáo chúng. Nghi phạm đã sử dụng tên tài khoản trực tuyến 'thegentlemanpervert' để phân phối hoặc tạo ra tài liệu trước khi cơ quan thực thi pháp luật can thiệp. Vụ bắt giữ diễn ra sau một thông tin tố giác từ một người dùng Discord, người đã gắn cờ báo cáo nội dung lạm dụng tình dục trẻ em (CSAM) do AI tạo ra trên nền tảng này.