Tác giả báo cáo lệnh cấm mạng xã hội Úc thừa nhận dùng ChatGPT biên tập

Tổ chức Age Check Certification Scheme (ACCS) thừa nhận đã sử dụng ChatGPT để biên tập một báo cáo quan trọng trị giá 3,48 triệu AUD về công nghệ xác minh độ tuổi phục vụ lệnh cấm mạng xã hội dưới 16 tuổi của Úc. Sự việc được thừa nhận sau khi các nhà điều tra và báo chí phát hiện nhiều lỗi trích dẫn, bao gồm các liên kết DOI giả và tài liệu tham khảo học thuật không có thật. Sự việc này nêu bật những rủi ro của hiện tượng ảo giác AI trong việc hoạch định chính sách quan trọng và có thể làm suy giảm lòng tin của công chúng vào các quyết định của chính phủ. Nó cũng nhấn mạnh sự giám sát ngày càng chặt chẽ đối với các nhà thầu chính phủ sử dụng công cụ AI tạo sinh mà không có sự kiểm soát thích hợp. Mặc dù ACCS tuyên bố AI chỉ được sử dụng để rút gọn các đoạn văn, ít nhất sáu tài liệu tham khảo trong một chương đã bị phát hiện có lỗi, chẳng hạn như các liên kết DOI dẫn đến các bài báo không tồn tại hoặc diễn giải sai kết quả nghiên cứu. Tổ chức này chỉ thừa nhận sử dụng AI sau khi siêu dữ liệu (metadata) từ ChatGPT bị phát hiện trong các liên kết của báo cáo.