Người phụ nữ tại Florida bị bắt sau khi Anthropic báo cáo đe dọa xả súng trong Claude AI
Carli Michelle Heller đã bị bắt tại Lee County, bang Florida (Mỹ), sau khi Anthropic phát hiện cuộc trò chuyện của cô trên Claude chứa lời đe dọa xả súng vào văn phòng cảnh sát địa phương, xác minh qua kiểm duyệt thủ công và báo cho cảnh sát. Heller khai với điều tra viên rằng cô chỉ sử dụng chatbot AI này như một cuốn nhật ký cá nhân. Vụ việc này làm nổi bật sự mâu thuẫn giữa kỳ vọng riêng tư của người dùng và các hàng rào an toàn AI, cho thấy cuộc trò chuyện với LLM bị giám sát và có thể bị tiết lộ cho cơ quan chức năng trong trường hợp khẩn cấp. Điều này cũng trái ngược với các vụ kiện gần đây cáo buộc các công ty AI không báo cáo các mối đe dọa đã được cảnh báo trước khi thảm kịch xảy ra. Điều khoản của Anthropic nêu rõ các cuộc trò chuyện AI không được bảo vệ bởi quyền bảo mật pháp lý và cho phép tiết lộ khẩn cấp mà không cần thủ tục pháp lý trước đó nếu nghi ngờ có nguy cơ gây thương tích hoặc tử vong. Heller đối mặt với cáo buộc theo Điều 836.10 Luật Bang Florida về việc đe dọa bằng văn bản, một tội đại hình độ hai áp dụng cho cả phương tiện điện tử.
## KIẾN THỨC NỀN
Các nhà cung cấp Mô hình Ngôn ngữ Lớn (LLM) lớn sử dụng các công cụ theo dõi từ khóa tự động kết hợp với đội ngũ kiểm duyệt thủ công để thực thi chính sách sử dụng chống lại nội dung bạo lực hoặc gây hại. Mặc dù các nền tảng AI thường yêu cầu thủ tục pháp lý hợp lệ như lệnh của tòa án để cung cấp dữ liệu người dùng cho chính phủ, hầu hết đều duy trì trường hợp ngoại lệ tiết lộ khẩn cấp khi có nguy cơ đe dọa an toàn tính mạng.