Microsoft và các đối tác khởi动 Sáng kiến Minh bạch AI nhằm đảm bảo an toàn cho doanh nghiệp
Microsoft cùng với Accenture, Adobe và hơn 40 tổ chức khác đã công bố Sáng kiến Minh bạch AI tại hội nghị Ignite nhằm thiết lập các tiêu chuẩn mở về an toàn, quản trị và khả năng quan sát AI, áp dụng cho cả mô hình độc quyền lẫn mô hình mở trọng số. Sáng kiến này giải quyết các khoảng trống quản trị quan trọng khi các tác nhân AI tự động thực hiện các tác vụ của doanh nghiệp mà không cần sự phê duyệt của con người, qua đó thiết lập các khung kiểm ưng chéo và trách nhiệm giải trình. Sáng kiến này được xây dựng dựa trên ba trụ cột cốt lõi gồm quan sát, xác thực và kiểm soát, đồng thời đặt mục tiêu mở rộng sự tham gia vào Sáng kiến Tiêu chuẩn Tác nhân AI của NIST và tích hợp liền mạch vào các bộ công cụ doanh nghiệp của Microsoft.
## KIẾN THỨC NỀN
Khi các doanh nghiệp triển khai các mô hình AI tạo sinh kết nối với dữ liệu nội bộ, thông tin xác thực và cơ sở hạ tầng, các biện pháp kiểm soát bảo mật truyền thống gặp nhiều khó khăn trong việc giám sát các quy trình làm việc tự động từ đầu đến cuối. Các mô hình mở trọng số, có các tham số được công bố công khai, đặt ra những thách thức quản lý bảo mật riêng biệt so với các hệ thống độc quyền khép kín.