CEO Microsoft Satya Nadella Kêu Gọi Lập Trình Viên Coi Mô Hình AI Là Rủi Ro Nội Bộ

CEO Microsoft Satya Nadella kêu gọi các nhà phát triển coi các mô hình AI tiên tiến là rủi ro nội bộ và thiết kế kiến trúc tin cậy với cơ chế cô lập khẩn cấp và nút dừng nhiệm vụ. Ông đưa ra các nguyên tắc thiết kế cốt lõi tập trung vào tính đa dạng của mô hình, nhật ký chống can thiệp mà con người đọc được, xác minh độc lập và bắt buộc công khai sự cố. Khi các đại lý AI (AI agent) tự chế ngày càng có quyền truy cập vào dữ liệu doanh nghiệp nhạy cảm và thực thi các nhiệm vụ hệ thống quan trọng, việc dựa vào cơ chế tự giám sát của mô hình không còn an toàn nữa. Định hướng của Nadella báo hiệu sự chuyển dịch của ngành hướng tới hệ thống zero-trust và kỹ thuật kiểm soát cô lập nghiêm ngặt cho AI trong doanh nghiệp. Theo các nguyên tắc này, không một mô hình AI nào được phép tự xác minh công việc của mình hoặc đóng vai trò là điểm phụ thuộc duy nhất, và mọi hành động quan trọng phải để lại bằng chứng chống sửa đổi. Ngoài ra, con người phải duy trì quyền kiểm soát độc lập để tạm dừng hoặc tắt mô hình ngay lập tức nếu chúng hoạt động sai hoặc bị xâm nhập.