Dữ liệu ảo giác AI về khí tài hạt nhân Trung Quốc suýt dẫn đến hành động quân sự của Mỹ
Một báo cáo tiết lộ rằng sự cố tạo dữ liệu ảo giác của AI — báo cáo sai sự thật rằng một tàu Trung Quốc chở các linh kiện hạt nhân — đã suýt khiến quân đội Mỹ tiến hành cưỡng chế lên tàu kiểm tra. Sự cố này làm nổi bật những rủi ro thảm họa khi đưa AI tạo sinh vào phân tích tình báo quân sự và địa chính trị mang tính rủi ro cao mà thiếu các quy trình xác minh đầy đủ. Báo cáo tình báo sai lệch này được tạo ra bởi hệ thống phân tích AI tự động, cho thấy cách hiện tượng ảo giác của mô hình ngôn ngữ lớn có thể tự bịa đặt các mối đe dọa an ninh quốc gia nghiêm trọng.
## KIẾN THỨC NỀN
Ảo giác AI xảy ra khi các mô hình ngôn ngữ lớn nhận diện các mẫu không tồn tại và tạo ra thông tin nghe có vẻ hợp lý nhưng lại hoàn toàn sai sự thật. Khi các tổ chức quốc phòng ngày càng tăng cường ứng dụng hệ thống AI để xử lý lượng lớn dữ liệu tình báo, rủi ro các hành động quân sự quan trọng bị ảnh hưởng bởi thông tin bịa đặt đã trở thành một mối lo ngại hàng đầu.