Trưởng bộ phận đạo đức AI của OpenAI Chloé Bakalar rời công ty
Chloé Bakalar, trưởng bộ phận đạo đức AI chuyên trách duy nhất của OpenAI, đã âm thầm rời công ty sau chưa đầy một năm làm việc. OpenAI đã xác nhận sự ra đi của cô và tuyên bố rằng trách nhiệm về đạo đức AI hiện được phân bổ cho nhiều nhóm nghiên cứu thay vì do một cá nhân duy nhất quản lý. Sự ra đi này làm nổi bật những thay đổi tổ chức và mối lo ngại về văn hóa an toàn đang diễn ra tại OpenAI, đặt ra câu hỏi về cách công ty ưu tiên giám sát đạo đức tập trung. Khi các mô hình AI ngày càng mạnh mẽ, việc chuyển đổi từ một trưởng bộ phận đạo đức chuyên trách sang mô hình phân tán có thể ảnh hưởng đến cách quản lý các rủi ro đạo đức. Trước khi gia nhập OpenAI, Bakalar đã có sáu năm làm việc tại Meta để dẫn dắt sáng kiến đạo đức AI của họ, và công việc của cô tại OpenAI tập trung vào phát triển mô hình đạo đức, tương tác giữa người và AI, cùng các tranh luận về ý thức máy móc. Người phát ngôn của OpenAI nhấn mạnh rằng các cân nhắc về đạo đức hiện được tích hợp sâu vào quy trình xây dựng mô hình trên nhiều nhóm khác nhau.
## KIẾN THỨC NỀN
Đạo đức AI liên quan đến việc nghiên cứu và thực thi các hướng dẫn nhằm đảm bảo công nghệ AI được phát triển và sử dụng một cách có trách nhiệm, giải quyết các vấn đề như định kiến, sự công bằng và tương tác với con người. Một khái niệm liên quan là ý thức máy móc (machine consciousness), một trạng thái giả định nơi các hệ thống phi sinh học sở hữu trải nghiệm hiện tượng hoặc khả năng cảm nhận, đặt ra các câu hỏi đạo đức phức tạp về cách đối xử với các hệ thống AI tiên tiến.