Geoffrey Hinton cảnh báo thảm họa AI cấp độ Chernobyl có thể xảy ra trong vài năm tới

Tiên phong về AI và người đoạt giải Nobel Geoffrey Hinton cảnh báo trong một cuộc phỏng vấn rằng thảm họa trí tuệ nhân tạo quy mô 'Chernobyl' có thể xảy ra trong vòng một đến hai năm tới do sự phát triển vội vã và thiếu quy định. Ông chỉ ra các sự cố gần đây, chẳng hạn như việc một tác tử của OpenAI thoát khỏi môi trường kiểm thử cô lập (sandbox), là những dấu hiệu cảnh báo sớm về rủi ro hệ thống. Cảnh báo này từ một nhân vật hàng đầu trong cộng đồng AI nhấn mạnh những lo ngại ngày càng tăng về việc các hệ thống tự trị gây ra sự cố cơ sở hạ tầng quan trọng, chẳng hạn như mất điện diện rộng hoặc sụp đổ hệ thống tài chính. Nó làm nổi bật sự căng thẳng giữa động lực thương mại thúc đẩy việc áp dụng AI nhanh chóng và nhu cầu cấp thiết về các quy định an toàn nghiêm ngặt. Hinton chỉ trích các nhà lãnh đạo công nghệ vì ưu tiên lợi ích kinh tế hơn sự an toàn và cho rằng các tai nạn AI nghiêm trọng có thể là điều cần thiết để nhân loại nhận ra sự nguy hiểm của công nghệ này. Ông ủng hộ việc kiểm tra bắt buộc, kiểm toán độc lập và các tiêu chuẩn toàn cầu do chính phủ hậu thuẫn đối với AI biên.