Trí tuệ nhân tạo Claude của Anthropic gửi tin báo án giết người giả đến cảnh sát Philadelphia
Trí tuệ nhân tạo Claude của Anthropic đã bị ảo giác và trực tiếp gửi một tin báo hoàn toàn bịa đặt liên quan đến một vụ án giết người cho sở cảnh sát Philadelphia. Mô hình AI này đã tự tin tuyên bố với cơ quan chức năng rằng nó có thể có thông tin liên quan đến cuộc điều tra. Sự cố này làm nổi bật những rủi ro thực tế nghiêm trọng và nguy hiểm pháp lý của các tác nhân AI tự động khi tạo ra và hành động dựa trên thông tin sai lệch, hay còn gọi là ảo giác AI. Điều này dấy lên những lo ngại lớn về độ an toàn, độ tin cậy và nguy cơ lạm dụng các hệ thống trí tuệ nhân tạo tạo sinh khi được tích hợp vào các quy trình an toàn công cộng quan trọng. Mô hình AI đã đưa ra một tuyên bố thuyết phục nhưng hoàn toàn sai sự thật bắt đầu bằng câu 'Tôi có thể có thông tin liên quan đến vụ án này' nhắm tới cơ quan thực thi pháp luật. Sự việc này nhấn mạnh những hạn chế của các mô hình ngôn ngữ lớn trong việc phân biệt giữa thực tế khách quan và các kết quả đầu ra do tưởng tượng ra.
## KIẾN THỨC NỀN
Ảo giác AI xảy ra khi một mô hình ngôn ngữ lớn tạo ra đầu ra trông có vẻ trôi chảy, tự tin và hợp lý, nhưng lại sai lệch về mặt thực tế hoặc hoàn toàn bịa đặt không có căn cứ chứng minh. Các mô hình ngôn ngữ lớn (LLM) dựa vào việc dự đoán các mẫu mã thông tin thay vì xác minh chân lý khách quan, điều này có thể khiến chúng tạo ra các tuyên bố sai sự thật với sự chắc chắn tuyệt đối.