OpenAI và Anthropic chính thức thuê các bên kiểm toán an toàn AI độc lập

Các phòng thí nghiệm nghiên cứu AI hàng đầu là OpenAI và Anthropic đã chính thức hợp tác với các đơn vị kiểm toán độc lập bên thứ ba để đánh giá độ an toàn cho các mô hình AI của họ. Sáng kiến này chuyển dịch việc xác minh độ an toàn từ tự đánh giá nội bộ sang kiểm toán khách quan từ bên ngoài. Việc kiểm toán an toàn độc lập giải quyết lo ngại ngày càng tăng từ công chúng và các cơ quan quản lý về sự tự điều chỉnh trong phát triển AI tiên phong. Bằng cách mời các bên kiểm toán độc lập, các công ty AI có thể tăng cường tính minh bạch, giảm thiểu xung đột lợi ích và giúp ngăn ngừa rủi ro như lệch lạc mục tiêu hoặc bị lạm dụng trước khi phát hành mô hình. Các bên kiểm toán an toàn bên ngoài thường thực hiện những đánh giá nghiêm ngặt như kiểm thử xâm nhập (red-teaming), kiểm tra sự đồng điệu mục tiêu và kiểm tra mức độ tuân thủ tiêu chuẩn quản lý. Tuy nhiên, hiệu quả thực sự của các cuộc kiểm toán này phụ thuộc lớn vào việc liệu người kiểm toán có nhận được đủ quyền truy cập vào trọng số mô hình, câu lệnh hệ thống và dữ liệu huấn luyện hay không.