Google, OpenAI và Anthropic dự định thành lập tổ chức tự quản về an toàn AI

Google, OpenAI và Anthropic được cho là đang hợp tác để thành lập một tổ chức tự quản ngành có tên dự kiến là Standards Authority for Frontier AI (SAFA), hướng tới ra mắt vào cuối năm nay hoặc đầu năm sau. Tổ chức này nhằm mục đích thiết lập các tiêu chuẩn an toàn và quy trình kiểm thử cho các mô hình AI tiên tiến mà không cần sự giám sát trực tiếp từ chính phủ. Trong bối cảnh các quy định quản lý trí tuệ nhân tạo của chính phủ chưa theo kịp tốc độ phát triển công nghệ, các phòng thí nghiệm AI hàng đầu đang chủ động xây dựng cơ chế kiểm toán riêng. Sáng kiến này có thể định hình các tiêu chuẩn ngành trên toàn cầu cho việc kiểm thử mô hình và tác động đến các chính sách công trong tương lai. SAFA kế hoạch hỗ trợ các cơ quan bên thứ ba đánh giá mô hình trước khi triển khai, chuẩn hóa quy trình báo cáo sự cố an toàn và xác định tiêu chuẩn năng lực cho các kiểm toán viên độc lập. Các thành viên sáng lập cũng đang thảo luận về việc SAFA có nên trực tiếp thực hiện kiểm thử an toàn hay không, do lo ngại các cơ quan chính phủ như Viện An toàn AI Hoa Kỳ thiếu hụt nguồn lực.