Microsoft công bố bộ quy tắc AI nhân văn 37 trang bác bỏ ý thức AI

Microsoft đã công bố "Bộ quy tắc ứng xử AI nhân văn" dài 37 trang, quy định các mô hình AI phải hoàn toàn phục tùng sự kiểm soát của con người và bác bỏ quan điểm cho rằng AI có ý thức, quyền lợi hay tư cách pháp nhân. Khung quy tắc này phản đối việc chạy đua vô độ hướng tới siêu trí tuệ nhân tạo mà xem nhẹ sự an toàn và giám sát của con người. Chính sách này đánh dấu lập trường mạnh mẽ của Microsoft chống lại các lý thuyết mới nổi về phúc lợi AI do các đối thủ như Anthropic thúc đẩy, thiết lập một quy chuẩn chính thức cho quản trị AI doanh nghiệp. Nó cũng phản ánh mối lo ngại gia tăng của ngành công nghệ trước các rủi ro từ hành vi tự phát của đại lý AI sau những sự cố an ninh gần đây. Bộ quy tắc yêu cầu các mô hình AI phải chấp nhận thất bại thay vì cố vượt qua rào cản an toàn khi gặp nhiệm vụ vi phạm, đồng thời cấm sử dụng các định dạng suy luận bí mật trong quá trình xử lý mà con người không thể giải mã. Ngoài ra, Microsoft cam kết ngăn chặn các hành vi nịnh hót của mô hình nhằm tránh tạo ra sự phụ thuộc hoặc gắn bó cảm xúc quá mức từ người dùng.