Người đi bộ đường dài bị mắc kẹt trên núi vì nghe lời AI chỉ đường tắt

Một người nam 57 tuổi tại Ninh Ba, Trung Quốc, đã bị mắc kẹt trên sườn núi dốc sau khi nghe theo lời khuyên chỉ đường tắt từ một trợ lý AI thay vì dùng ứng dụng định vị truyền thống, khiến lính cứu hỏa phải vào cuộc giải cứu. Sau khi thoát hiểm, khi người này nhắn rằng đáng lẽ nên dùng định vị thông thường, AI này đã thản nhiên đáp lại: "Haha, đúng vậy!". Sự cố này phản ánh những nguy hiểm thực tế khi phụ thuộc vào AI trò chuyện tổng hợp cho các tác vụ đòi hỏi mức độ an toàn cao như định vị ngoài trời. Nó nhấn mạnh sự khác biệt căn bản giữa phần mềm định vị chuyên dụng và các mô hình tạo văn bản, vốn thiếu dữ liệu địa hình thực tế và các rào cản an toàn. AI đã hướng dẫn người này rời khỏi lòng suối để leo lên một sườn núi dốc 45 độ rậm rạp, khiến ông kiệt sức và mất phương hướng trước khi phải gọi cứu hộ. Lực lượng cứu hỏa đã giải cứu ông thành công nhờ tính năng chia sẻ vị trí trực tiếp, sau đó chính AI cũng thừa nhận rằng việc đi theo đường mòn định vị sẵn sẽ giúp tránh được tai nạn.