Ba người leo núi bị mắc kẹt trên núi Shasta do tin vào thông tin sai từ Google Gemini
Ba người leo núi thiếu kinh nghiệm tại bang California đã bị mắc kẹt trên núi Shasta và cần tới lực lượng cứu hộ sau khi làm theo thông tin tư vấn và thời gian ước tính không chính xác từ Google Gemini. Mô hình AI này ước tính chuyến leo núi mất khoảng 8 giờ, nhưng thực tế họ đã mất tới 16 giờ, dẫn đến việc bị kẹt trong bóng tối trên địa hình nguy hiểm. Sự cố này nhấn mạnh rủi ro an toàn thực tế khi quá phụ thuộc vào trí tuệ nhân tạo để lập kế hoạch trong các môi trường nguy hiểm, nơi thông tin sai lệch có thể đe dọa đến tính mạng. Đây là lời cảnh báo rằng các mô hình AI tạo sinh hiện tại thiếu nhận thức tình huống, bối cảnh môi trường thời gian thực và khả năng đánh giá thực tế. Nhóm xuất phát lúc 3 giờ sáng với kỳ vọng tới đỉnh lúc 11 giờ sáng theo hướng dẫn của Gemini, nhưng đến 7 giờ tối mới tới nơi trước khi đi chệch hướng vào hẻm núi Mud Creek lúc xuống núi. Mặc dù một thành viên có ứng dụng dẫn đường AllTrails, điện thoại của họ đã hết pin giữa chừng, khiến họ không thể tự dẫn đường cho đến khi cứu hộ tới vào sáng hôm sau.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) như Google Gemini tạo văn bản dựa trên quy luật thống kê từ dữ liệu web chứ không có nhận thức không gian thời gian thực hay chuyên môn thực địa đã qua kiểm chứng. Dù hữu ích cho việc tìm kiếm thông tin chung, LLM thường gặp hiện tượng ảo giác (hallucination) hoặc đưa ra ước tính quá lạc quan mà không tính đến thời tiết biến động, rủi ro địa hình hay thể lực cá nhân. Các chuyên gia dã ngoại khuyến nghị nên dựa vào cơ quan quản lý địa phương, bản đồ được xác minh và phần mềm dẫn đường chuyên dụng thay vì các công cụ AI tổng hợp để đảm bảo an toàn.