Luật sư Mỹ bị phạt 5.000 USD vì nộp lời khai do ChatGPT bịa đặt
Tòa án Tối cao bang New Mexico đã phạt luật sư bào chữa Stephen Ahrens 5.000 USD vì tội coi thường tòa án sau khi ông nộp bản kiến nghị phúc thẩm vụ án án mạng chứa thông tin nhân chứng giả và lời khai cảnh sát hư cấu do ChatGPT tạo ra. Ahrens thừa nhận ông đã dùng ChatGPT để tóm tắt biên bản phiên tòa mà không kiểm tra tính xác thực của nội dung được tạo ra. Vụ việc này làm nổi bật rủi ro ngày càng tăng của việc sử dụng AI tạo sinh không qua kiểm chứng trong ngành luật, chuyển từ lỗi trích dẫn án lệ giả sang việc làm giả cả chứng cứ thực tế. Nó nhấn mạnh nghĩa vụ đạo đức nghề nghiệp nghiêm ngặt của luật sư trong việc kiểm tra đầu ra của AI khi các tòa án ngày càng xử phạt nặng những vi phạm liên quan đến AI. Ngoài khoản tiền phạt 5.000 USD, Tòa án Tối cao đã chuyển Ahrens đến ủy ban kỷ luật luật sư để điều tra thêm, lưu ý thái độ thiếu ăn ăn và thiếu trách nhiệm đối với thân chủ. Tại phiên thanh tra, các thẩm phán bày tỏ sự kinh ngạc khi Ahrens không hề hay biết về rủi ro "ảo giác" phổ biến của LLM khi đưa biên bản phiên tòa vào ChatGPT với kỳ vọng nhận được bản tóm tắt hoàn hảo.
## KIẾN THỨC NỀN
Các công cụ AI tạo sinh dựa trên Mô hình Ngôn ngữ Lớn (LLM) như ChatGPT thường gặp hiện tượng "ảo giác AI" (hallucination), tức tình trạng mô hình tạo ra thông tin sai sự thật hoặc hư cấu nhưng thể hiện dưới dạng vô cùng thuyết phục. Trong ngành luật, quy tắc đạo đức yêu cầu luật sư phải độc lập xác minh mọi tình tiết, án lệ và chứng cứ nộp lên tòa, vì việc nộp tài liệu chưa qua kiểm chứng sẽ làm tổn hại đến hệ thống tư pháp và dẫn đến các hình phạt kỷ luật nghiêm khắc.