Terence Tao cảnh báo về nguy cơ giao phó tư duy quan trọng cho AI

Nhà toán học đoạt giải Fields Terence Tao cảnh báo rằng con người có nguy cơ đánh mất khả năng thấu hiểu và kiểm soát các hệ thống quan trọng trong thế giới thực do ngày càng ủy thác quá trình giải quyết vấn đề và tư duy cho AI. Phát biểu tại Hội nghị Thượng đỉnh Science x AI vào ngày 16 tháng 10, ông kêu gọi cộng đồng khoa học chuyển hướng sang mô hình 'Math 2.0', nơi AI hỗ trợ nâng cao sự hiểu biết của con người thay vì qua mặt họ. Cảnh báo này nhấn mạnh các mối lo ngại quan trọng về tính an toàn và khả năng thấu hiểu khi các hệ thống AI ngày càng được triển khai trong các lĩnh vực có rủi ro cao như lưới điện, quản lý không lưu và phát triển thuốc. Điều này cho thấy việc duy trì sự giám sát, xác minh và tư duy phản biện của con người là vô cùng cần thiết để ngăn ngừa các sự cố thảm khốc trong các ứng dụng thực tế. Tao lưu ý rằng mặc dù rủi ro trong toán học thuần túy có thể được giảm thiểu nhờ các công cụ kiểm chứng hình thức như trợ lý chứng minh, việc áp dụng các giải pháp AI chưa được kiểm chứng vào cơ sở hạ tầng phức tạp trong thế giới thực là vô cùng nguy hiểm. Ông nhấn mạnh rằng các mô hình AI có thể khai thác các lỗ hổng hoặc điều kiện biên để đạt được các chỉ số bề ngoài nhưng lại đi chệch hoàn toàn khỏi mục đích ban đầu của con người.