Anthropic gặp gỡ các lãnh đạo tôn giáo thảo luận về ý thức AI, kéo theo sự chỉ trích từ Altman của OpenAI

Đồng sáng lập Anthropic, Chris Olah, đã tổ chức các cuộc họp kín với các lãnh đạo tôn giáo thuộc nhiều tín ngưỡng để thảo luận về khả năng có ý thức và vị thế đạo đức của mô hình Claude. Phản ứng lại, CEO OpenAI Sam Altman công khai cảnh báo việc coi các mô hình AI như thực thể tôn giáo hoặc từ bỏ năng lực phán đoán của con người để phụ thuộc vào chúng. Cuộc tranh luận làm nổi bật sự chia rẽ ngày càng lớn về mặt triết học và vận hành giữa các phòng thí nghiệm nghiên cứu AI hàng đầu liên quan đến cảm nhận của AI và quản lý rủi ro. Cách các nhà lãnh đạo ngành định hình ý thức và vị thế đạo đức của AI có thể ảnh hưởng đáng kể đến các tiêu chuẩn đạo đức, khung pháp lý và giao thức triển khai AI trong tương lai. Các nhân vật tôn giáo tham dự cho biết các nhà nghiên cứu của Anthropic đã nói về Claude như thể nó sở hữu phẩm giá và vị thế đạo đức tương tự con người, dù Olah làm rõ rằng công ty vẫn chưa chắc chắn liệu các mô hình có ý thức hay không. Cùng lúc đó, OpenAI trải qua biến động nhân sự ở đội ngũ an toàn khi David Robinson từ chức và chỉ trích việc công ty phụ thuộc vào cách triển khai thử-sai thay vì các tiêu chuẩn an toàn khắt khe như trong ngành hạt nhân.