CEO Hugging Face kêu gọi góc nhìn toàn diện về cảnh báo rủi ro AI diệt vong

CEO Clément Delangue của Hugging Face đã lên tiếng nghi ngờ về cách tiếp cận mang tính báo động đối với rủi ro AI diệt vong do cựu nghiên cứu viên Jacob Coxon của Anthropic đưa ra sau khi từ chức. Delangue cho rằng góc nhìn của cá nhân các kỹ sư, đặc biệt là những người tập trung vào pre-training, cần được đánh giá trong bối cảnh toàn diện hơn của hệ sinh thái AI. Cuộc tranh luận này làm nổi bật sự căng thẳng giữa các cảnh báo an toàn về nguy cơ siêu trí tuệ tự cải tiến và quan điểm ủng hộ thảo luận rủi ro một cách cân bằng từ các nhà lãnh đạo nguồn mở. Điều này phản ánh phản ứng của ngành trước việc chỉ dựa vào các tuyên bố lo ngại diệt vong mang tính chủ quan của cá nhân các nhà nghiên cứu. Coxon từ chức với tuyên bố rằng các phòng thí nghiệm hàng đầu như OpenAI và Anthropic đang lao vào đà phát triển siêu trí tuệ tự cải tiến có thể đe dọa nhân loại vào cuối những năm 2020. Delangue làm rõ rằng việc so sánh Coxon với 'thợ sửa điều hòa' không nhằm mục đích bôi nhọ, mà để chỉ ra rằng chuyên môn của Coxon nằm ở khâu pre-training mô hình chứ không phải nghiên cứu chuyên sâu về rủi ro và căn chỉnh AI.