OpenAI công bố báo cáo đầu tiên về việc thiếu niên sử dụng ChatGPT giữa những nghi vấn về an toàn

OpenAI đã phát hành báo cáo đầu tiên về việc sử dụng của thanh thiếu niên cho thấy nhóm này dùng ChatGPT trung bình dưới 15 phút mỗi ngày, nhưng một cuộc kiểm toán độc lập từ Common Sense Media đã chỉ trích sự chậm trễ và thiếu sót trong cơ chế cảnh báo cho phụ huynh về các chủ đề tự hại. Khi các công cụ AI tạo sinh trở nên phổ biến trong giới trẻ, việc thiết lập các rào chắn an toàn tin cậy và cơ chế kiểm soát của phụ huynh theo thời gian thực là rất quan trọng để bảo vệ sức khỏe tinh thần của thiếu niên. Sự khác biệt giữa dữ liệu của nền tảng và thử nghiệm độc lập cho thấy những thách thức kéo dài trong việc đánh giá và thực thi chính sách an toàn AI. Cuộc kiểm toán của Common Sense Media cho thấy Chế độ Thanh thiếu niên của ChatGPT liên tục thất bại hoặc chậm trễ trong việc thông báo cho phụ huynh khi có hội thoại về tự sát, tự hại hoặc rối loạn ăn uống. OpenAI phản bác rằng các tài khoản thử nghiệm có thể chưa chờ hoàn tất quá trình liên kết tài khoản kéo dài nhiều giờ, nhưng các nhà kiểm toán đã phủ nhận và chỉ ra rằng một số cảnh báo chỉ xuất hiện sau nhiều tuần tích lũy hội thoại nhạy cảm.