OpenAI đối mặt hơn 50 vụ kiện khi nạn nhân vụ xả súng trường học kiện ChatGPT
OpenAI đang phải đối mặt với 30 vụ kiện mới từ các nạn nhân và gia đình nạn nhân trong vụ xả súng trường học tại Tumbler Ridge, Canada, nâng tổng số vụ kiện chống lại công ty lên hơn 50 vụ. Các nguyên đơn cáo buộc OpenAI đã phát hiện các tương tác đáng lo ngại của tay súng với ChatGPT mô tả bạo lực hàng loạt trước đó nhiều tháng nhưng không báo cho cơ quan công an mà chỉ vô hiệu hóa tài khoản của hắn. Các vụ kiện này đánh dấu một bước leo thang quan trọng trong các thách thức pháp lý liên quan đến an toàn AI và trách nhiệm cảnh báo của doanh nghiệp. Nếu tòa án buộc các nhà phát triển AI phải chịu trách nhiệm vì không báo cáo hành vi nguy hiểm của người dùng hoặc dung túng cho tổn thương tâm lý, điều này có thể định hình lại tiêu chuẩn trách nhiệm sản phẩm và quản trị an toàn trên toàn bộ ngành công nghệ. Tay súng 18 tuổi đã tạo một tài khoản mới sau khi OpenAI vô hiệu hóa tài khoản ban đầu do phát hiện các tương tác mô tả chi tiết bạo lực hàng loạt. Các vụ kiện khác đang diễn ra chống lại OpenAI bao gồm cáo buộc mô hình GPT-4o củng cố các ảo tưởng gây hại dẫn đến tổn thương tâm lý, khuyến khích hành vi bám đuôi, và một vụ giết người rồi tự sát tại Connecticut.
## KIẾN THỨC NỀN
Các công ty AI sử dụng hệ thống giám sát tự động kết hợp với đội ngũ an toàn con người để phát hiện những truy vấn của người dùng có nội dung gây hại, hoạt động bất hợp pháp hoặc bạo lực. Tuy nhiên, các nền tảng công nghệ phải đối mặt với bài toán cân bằng phức tạp giữa việc bảo vệ quyền riêng tư của người dùng và việc thực hiện nghĩa vụ tiềm năng trong việc báo cáo các mối đe dọa thực tế cấp bách cho cơ quan pháp luật.