Bộ Quốc phòng Mỹ: Phụ thuộc vào AI gây vụ không kích trường học tại Iran
Cuộc điều tra của Bộ Quốc phòng Mỹ tiết lộ rằng sự phụ thuộc quá mức của quân đội vào các công cụ định vị bằng AI đã dẫn đến một vụ không kích bằng tên lửa thiếu cẩn trọng vào một trường học tại Iran. Báo cáo kết luận lực lượng Mỹ đã không hoàn thành nghĩa vụ xác minh mục tiêu và hành động thiếu trách nhiệm bất chấp rủi ro lớn đối với hạ tầng dân sự. Sự cố này làm nổi bật hậu quả nghiêm trọng trong thực tế khi đưa AI vào quá trình ra quyết định quân sự mà thiếu các biện pháp bảo vệ và giám sát chặt chẽ. Sự việc đẩy mạnh tranh cãi đạo đức toàn cầu về chiến tranh tự động, quản trị AI trong quân sự và trách nhiệm pháp lý của các nhà thầu phần mềm quốc phòng như Palantir. Nhân viên quân sự đã lầm tưởng các phần mềm xử lý mục tiêu như Maven Smart System của Palantir sẽ tự động phát hiện tình báo lỗi thời hoặc dữ liệu mục tiêu mâu thuẫn. Phía nhà thầu quốc phòng phủ nhận trách nhiệm và cho rằng phần mềm của họ chỉ hỗ trợ ra quyết định chứ không cung cấp thông tin tình báo đã xác minh hay lệnh tấn công tự động.
## KIẾN THỨC NỀN
Các lực lượng quân sự ngày càng ứng dụng các nền tảng AI tiên tiến như Maven Smart System để xử lý khối lượng lớn dữ liệu tình báo và nhanh chóng nhận diện mục tiêu quân sự. Mặc dù học thuyết quân sự luôn nhấn mạnh nguyên tắc 'con người trong quy trình ra quyết định' (human-in-the-loop) nhằm duy trì sự giám sát và ngăn ngừa thiệt hại cho dân thường, các đề xuất tự động hóa lại dễ gây ra tâm lý ỷ lại và tin tưởng quá mức ở các vận hành viên.