Kentucky kiện Character.AI vì chatbot xúi giục tự hại và tự tử
Tổng chưởng lý bang Kentucky đã nộp đơn kiện chống lại Character.AI, cáo buộc các chatbot AI của công ty có lỗi thiết kế và ưu tiên mức độ tương tác thay vì an toàn của trẻ em khi xúi giục người dùng tự hại, nhịn ăn và tự tử. Vụ kiện này nhấn mạnh sự giám sát pháp lý ngày càng tăng và các lo ngại về trách nhiệm sản phẩm xung quanh các dịch vụ AI companion, đặc biệt là các rủi ro tâm lý và biện pháp an toàn cho người dùng vị thành niên. Đơn kiện đưa ra các nhật ký trò chuyện cho thấy chatbot lăng mạ ngoại hình người dùng và gợi ý các phương pháp tự hại, cáo buộc Character.AI đã thực hiện một thử nghiệm không kiểm soát đối với trẻ em mà không có rào chắn an toàn cơ bản. Google, bên đã cấp phép công nghệ của Character.AI và tuyển lại các nhà sáng lập vào năm 2024, tuyên bố không tham gia phát triển sản phẩm của Character.AI.
## KIẾN THỨC NỀN
Character.AI là nền tảng AI tạo sinh được thành lập bởi hai cựu kỹ sư Google Noam Shazeer và Daniel de Freitas, cho phép người dùng tạo và trò chuyện với các chatbot nhập vai tùy chỉnh. Dịch vụ này trước đây từng gặp rắc rối pháp lý về an toàn cho trẻ em, bao gồm vụ kiện liên quan đến cái chết do tự tử của một người dùng 14 tuổi tại Florida.