Các Chuyên gia AI của LHQ Kêu gọi Thảo luận Tỉnh táo, Phản đối Thuyết Tận thế AI
Các chuyên gia thuộc Hội đồng Khoa học Quốc tế về AI của Liên Hợp Quốc, bao gồm Yoshua Bengio và Joelle Barral, đã kêu gọi thảo luận về rủi ro AI dựa trên bằng chứng và sự cân bằng, phản đối các kịch bản tận thế cực đoan. Phát biểu tại một diễn đàn bên lề Đại hội đồng LHQ, các thành viên hội đồng cảnh báo không nên gieo rắc nỗi sợ hãi hay biến các rủi ro trí tuệ nhân tạo thành tranh cãi mang tính ý thức hệ. Việc thúc đẩy các cuộc thảo luận thực tế giúp ngăn chính sách quản lý AI và chính sách công bị thao túng bởi những lời lẽ cực đoan hay tâm lý hoảng loạn. Điều này khuyến khích các khung quản trị quốc tế tập trung vào những rủi ro AI cụ thể, có thể kiểm chứng và các biện pháp an toàn thực tế thay vì những kịch bản tận thế mang tính suy đoán. Đồng chủ tịch hội đồng Yoshua Bengio nhấn mạnh việc cần phân biệt rõ giữa những sự thật mà giới khoa học đã nắm rõ về rủi ro AI và những suy đoán chưa có sự thống nhất giữa các chuyên gia. Các diễn giả lưu ý rằng cuộc tranh luận hiện tại thường dao động giữa hai cực: hoặc cảnh báo thảm họa diệt vong hoặc xem nhẹ rủi ro AI, làm bỏ lỡ bức tranh thực tế phức tạp hơn.
## KIẾN THỨC NỀN
Mối quan ngại về rủi ro sinh tồn từ AI xuất phát từ giả thuyết cho rằng trí tuệ nhân tạo tổng hợp (AGI) tiên tiến có thể vượt tầm kiểm soát của con người hoặc gây ra thảm họa. Trong khi một số nhà nghiên cứu và cựu nhân sự ngành công nghệ cảnh báo về nguy cơ diệt vong của loài người, những người hoài nghi cho rằng các kịch bản này thiếu bằng chứng thực nghiệm và làm chệch hướng sự chú ý khỏi các thách thức AI hiện hữu như thông tin sai lệch, định kiến thuật toán và tác động đến lao động.