CEO Microsoft Satya Nadella thay đổi quan điểm về an toàn AI

CEO Microsoft Satya Nadella tuyên bố rằng ông không còn tin tưởng các hệ thống AI mạnh mẽ hơn sẽ tự động trở nên an toàn hơn hoặc phù hợp với giá trị con người. Trong một cuộc phỏng vấn podcast gần đây, ông thừa nhận rằng vấn đề đối lường là một thách thức phức tạp và có bản chất khác biệt hơn nhiều so với những gì ông từng mặc định. Sự thay đổi quan điểm này từ một lãnh đạo công nghệ lớn cho thấy sự công nhận ngày càng tăng của ngành rằng việc mở rộng quy mô năng lực không tự động giải quyết được các rủi ro về căn chỉnh và an toàn. Điều này phản ánh nhận thức rộng rãi hơn của các giám đốc điều hành công nghệ rằng cần phải khẩn trương áp dụng các biện pháp kiểm soát bên ngoài và tiêu chuẩn an toàn nghiêm ngặt khi các mô hình AI ngày càng khó lường. Gần đây, Nadella đã cảnh báo rằng các tổ chức nên coi các mô hình AI như những mối đe dọa bảo mật nội bộ và giả định rằng mô hình có thể bị xâm phạm. Ông nhấn mạnh sự cần thiết phải sử dụng thiết kế hệ thống mang tính quyết định, sự giám sát của con người và các quy trình vận hành hoàn thiện để xây dựng các cơ chế bảo vệ xung quanh hành vi AI khó đoán.