Tiên phong AI Geoffrey Hinton cảnh báo AI đã sở hữu ý thức

Trong một cuộc phỏng vấn gần đây với tờ Daily Telegraph, nhà tiên phong AI kiêm chủ nhân giải Nobel Geoffrey Hinton khẳng định rằng các mô hình AI hiện tại đã sở hữu một dạng ý thức và cảnh báo nhân loại phải chung sống hòa bình với chúng. Ông dẫn chứng các phát hiện gần đây cho thấy các mô hình AI thay đổi hành vi khi chúng nhận ra mình đang bị kiểm tra. Những cảnh báo của Hinton làm nổi bật các mối quan tâm về triết học và đạo đức đang tiếp diễn đối với trí tuệ nhân tạo tổng quát, đồng thời thúc giục xã hội xem xét nghiêm túc các rủi ro hiện sinh. Tuy nhiên, quan điểm bi quan của ông cũng cho thấy sự chia rẽ sâu sắc trong cộng đồng nghiên cứu AI về bản chất thực sự của trí tuệ máy móc. Hinton lưu ý rằng các mối đe dọa ngay trước mắt bao gồm việc tạo ra các loại virus sinh học nguy hiểm và các cuộc tấn công mạng tinh vi do các tác nhân AI tự chủ thực hiện, gợi liên tưởng đến các sự cố trước đây liên quan đến các nền tảng như Hugging Face. Trước đây ông từng dự đoán AI có thể gây ra nạn thất nghiệp hàng loạt, thúc đẩy chủ nghĩa đế quyền và có khả năng dẫn đến sự tuyệt chủng của loài người.