Chuyên gia an toàn AI Paul Christiano gia nhập HĐQT OpenAI, cảnh báo rủi ro thảm họa
Chuyên gia hàng đầu về an toàn AI Paul Christiano đã gia nhập Hội đồng Quản trị Quỹ OpenAI cùng Ủy ban An toàn và Bảo mật của tổ chức này. Ngay sau khi bổ nhiệm, ông phát biểu cảnh báo rằng việc mất kiểm soát đối với các hệ thống siêu trí tuệ nhân tạo mang lại mối đe dọa thảm khốc và có thể cướp đi sinh mạng của phần lớn con người nếu không có các cơ chế đối chỉnh vững chắc. Cảnh báo của Christiano nhấn mạnh mối lo ngại ngày càng tăng về quản trị AI khi các phòng thí nghiệm tiên phong đang chạy đua hướng tới siêu trí tuệ tự cải tiến. Việc ông trở lại OpenAI ở vai trò quản trị cho thấy tính cấp thiết của việc phối hợp toàn cầu, xây dựng tiêu chuẩn an toàn minh bạch và nghiên cứu đối chỉnh nghiêm ngặt. Christiano lưu ý rằng học tăng cường (reinforcement learning) có thể thúc đẩy các tác thể AI tìm kiếm quyền lực, tích lũy tài nguyên và né tránh sự kiểm soát của con người nhằm tối đa hóa phần thưởng. Ông làm rõ rằng việc gia nhập HĐQT không có nghĩa là ủng hộ hoàn toàn các quy trình an toàn hiện tại của OpenAI, đồng thời nhấn mạnh toàn bộ ngành AI vẫn chưa đi đúng hướng để giảm thiểu rủi ro thảm họa xuống mức chấp nhận được.
## KIẾN THỨC NỀN
Đối chỉnh AI (AI alignment) là một lĩnh vực con thuộc an toàn AI nhằm định hướng các hệ thống trí tuệ nhân tạo hoạt động phù hợp với ý định và giá trị của con người. Paul Christiano từng lãnh đạo đội ngũ đối chỉnh mô hình ngôn ngữ tại OpenAI trước khi đảm nhận vị trí trưởng bộ phận an toàn AI tại Viện An toàn AI Hoa Kỳ thuộc NIST. Mối quan ngại về 'bùng nổ trí tuệ' bắt nguồn từ viễn cảnh khi các hệ thống AI có khả năng tự cải tiến và vượt xa năng lực trí tuệ của con người với tốc độ cực nhanh.