OpenAI báo cáo FBI về việc một người đàn ông đe dọa giết người qua ChatGPT
OpenAI đã chủ động báo cáo một người đàn ông 25 tuổi ở Florida tên là Darren Zhou cho FBI sau khi anh ta mô tả chi tiết kế hoạch cưỡng hiếp và sát hại bạn gái cũ trong các cuộc trò chuyện với ChatGPT. Người dùng này sau đó đã bị bắt và nhận tội với các cáo buộc bao gồm theo dõi quấy rối nghiêm trọng và đe dọa giết người bằng văn bản, nhận mức án 8 năm tù treo. Vụ việc này nêu bật một trường hợp hiếm hoi khi một công ty AI chủ động báo cáo hoạt động của người dùng cho cơ quan thực thi pháp luật, đặt ra những câu hỏi quan trọng về quyền riêng tư của người dùng, giám sát dữ liệu và trách nhiệm pháp lý của các nhà phát triển AI. Nó nhấn mạnh cách các chính sách an toàn AI và hệ thống kiểm duyệt nội dung có thể tác động trực tiếp đến các cuộc điều tra hình sự trong thế giới thực. Theo chính sách an toàn của OpenAI, các nhóm đánh giá là con người sẽ xem xét các tương tác bị gắn cờ có dấu hiệu gây hại cho người khác và có thể chia sẻ các nhật ký này với cơ quan thực thi pháp luật. Nhật ký trò chuyện được cung cấp chỉ chứa các tin nhắn đầu vào của Zhou mà không có phản hồi của ChatGPT, cho thấy dấu hiệu của việc diễn tập và lên kế hoạch thay vì chỉ là giải tỏa cảm xúc đơn thuần.
## KIẾN THỨC NỀN
Các nhà phát triển AI như OpenAI triển khai các hệ thống kiểm duyệt nội dung, chẳng hạn như OpenAI Moderation API, để phát hiện các nội dung đầu vào có hại như bạo lực, ngôn từ kích động thù địch và tự hại. Mặc dù các hệ thống này thường được sử dụng để chặn các câu lệnh vi phạm chính sách hoặc lọc đầu ra, các công ty cũng duy trì các điều khoản dịch vụ cho phép họ báo cáo các mối đe dọa bạo lực có cơ sở cho cơ quan chức năng.