Luật sư tại New Mexico bị phạt vì dùng lời khai giả do ChatGPT tạo ra
Một luật sư bào chữa tại New Mexico đã bị tòa án xử phạt sau khi nộp lời khai nhân chứng hư cấu do ChatGPT tạo ra trong hồ sơ pháp lý. Luật sư này thừa nhận tại tòa rằng ông không biết trí tuệ nhân tạo có thể "ảo giác" ra các tình tiết hư cấu. Sự việc này phản ánh rủi ro kéo dài khi các chuyên gia dựa vào AI tạo sinh mà không kiểm chứng kết quả trong các lĩnh vực quan trọng như pháp lý. Nó nhấn mạnh nhu cầu cấp thiết về hiểu biết kỹ thuật AI và các quy trình xác minh nghiêm ngặt khi các công cụ AI ngày càng phổ biến trong công việc. Luật sư đã trích dẫn lời khai không có thực từ các nhân chứng hư cấu do ChatGPT đưa ra, dẫn đến các biện pháp kỷ luật từ tòa án. Vụ việc này tiếp tục củng cố tiền lệ pháp lý rằng giới luật sư phải chịu trách nhiệm cá nhân trong việc kiểm tra tính xác thực của tài liệu do AI hỗ trợ trước khi nộp lên tòa.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) như ChatGPT thường gặp phải hiện tượng gọi là "ảo giác" (hallucination), trong đó chúng tạo ra các thông tin, trích dẫn hoặc tài liệu tham khảo nghe có vẻ thuyết phục nhưng hoàn toàn hư cấu. Các tòa án trên khắp nước Mỹ ngày càng xử phạt nghiêm khắc những luật sư đưa thông tin ảo giác của AI làm bằng chứng pháp lý, qua đó khẳng định tiêu chuẩn nghề nghiệp bắt buộc phải kiểm tra thủ công mọi nội dung do AI tạo ra.