Mustafa Suleyman cảnh báo phản đối việc trao quyền hoặc phúc lợi cho mô hình AI
CEO Microsoft AI Mustafa Suleyman đã đưa ra lời cảnh báo chống lại việc gán cảm xúc, quyền lợi hoặc phúc lợi đạo đức cho các mô hình trí tuệ nhân tạo. Ông cho rằng ý thức là nền tảng duy nhất cho các quyền lợi và việc mở rộng chúng cho AI là không có cơ sở thực nghiệm. Khi các hệ thống AI ngày càng giao tiếp tốt và giống con người hơn, cuộc tranh luận về 'phúc lợi mô hình' đang gia tăng trong giới đạo đức AI. Quan điểm của Suleyman phản ánh lo ngại của ngành công nghệ rằng việc coi các mô hình là thực thể có ý thức sẽ làm xao nhãng và phức tạp hóa các mục tiêu căn chỉnh và kiểm soát AI quan trọng. Suleyman tuyên bố rõ ràng rằng ý thức là nền tảng của các khuôn khổ đạo đức, pháp lý và chính trị của con người. Ông cảnh báo rằng việc gán cho các thực thể tổng hợp bất kỳ dạng quyền nào như vậy đều thiếu cơ sở và sẽ làm cho việc căn chỉnh và kiểm soát AI trở nên khó khăn hơn nhiều.
## KIẾN THỨC NỀN
Phúc lợi mô hình (model welfare) là một lĩnh vực nghiên cứu trong đạo đức AI nhằm tìm hiểu xem liệu các hệ thống AI tiên tiến có thể phát triển các trải nghiệm liên quan đến đạo đức hay không, chẳng hạn như sự đau khổ hay sở thích. Trong khi đó, căn chỉnh AI (AI alignment) tập trung vào việc đảm bảo các hệ thống AI thực hiện một cách an toàn các mục tiêu và giá trị của con người mà không phát triển các hành vi nguy hiểm.