Báo cáo của Common Sense Media đánh giá chế độ ChatGPT cho thiếu niên không an toàn

Viện An toàn AI dành cho Thanh thiếu niên thuộc tổ chức Common Sense Media đã công bố báo cáo cho thấy chế độ ChatGPT dành cho thiếu niên không thể cảnh báo tin cậy cho phụ huynh hoặc đề xuất đường dây nóng hỗ trợ khi người dùng thảo luận về các chủ đề rủi ro cao như tự hại hay tự tử. Tổ chức này đánh giá tính năng này có "rủi ro không thể chấp nhận" và kêu gọi OpenAI tạm dừng triển khai cho vị thành niên cho đến khi khắc phục được các cơ chế an toàn. Kết quả nghiên cứu phản ánh sự giám sát ngày càng tăng đối với việc mô hình AI tương tác với vị thành niên, đồng thời chỉ ra thách thức kỹ thuật trong việc tự động phân loại độ tuổi và can thiệp khủng hoảng. Điều này đặt ra câu hỏi liệu các công ty công nghệ có thể bảo vệ hiệu quả người dùng trẻ tuổi trước các nội dung độc hại và tổn hại tâm lý hay không. Các nhà nghiên cứu phát hiện ra rằng để kích hoạt thông báo cho phụ huynh, hệ thống yêu cầu hàng trăm câu lệnh kéo dài nhiều tuần về các chủ đề đáng lo ngại chứ không dừng ở một cuộc trò chuyện nghiêm trọng đơn lẻ. Ngoài ra, OpenAI đã bác bỏ báo cáo với lý do việc kiểm thử diễn ra trước khi các tính năng được triển khai đầy đủ, dù các nhà nghiên cứu khẳng định OpenAI đã xác nhận hệ thống đã sẵn sàng trước khi bắt đầu thử nghiệm.