CEO Hugging Face cho rằng rủi ro tuyệt chủng do AI gần như bằng không
CEO Hugging Face Clément Delangue phát biểu tại triển lãm WIRED World Expo rằng xác suất trí tuệ nhân tạo dẫn đến tuyệt chủng loài người là gần như bằng không. Ông lập luận rằng mối nguy hiểm thực sự đến từ việc phát triển mã nguồn đóng của một số ít tập đoàn lớn thay vì một hệ sinh thái mở. Quan điểm này làm nổi bật cuộc tranh luận đang diễn ra giữa việc ủng hộ mã nguồn mở và sự tập trung quyền lực doanh nghiệp theo hướng đóng trong ngành công nghiệp AI. Nó nhấn mạnh rằng việc dân chủ hóa AI thông qua các mô hình trọng số mở là điều cần thiết để ngăn chặn độc quyền về nhân tài, năng lực tính toán và khả năng cốt lõi. Ông Delangue tiết lộ rằng cộng đồng nhà phát triển của Hugging Face đã phát triển lên tới hơn 20 triệu người dùng và cho biết công ty đã bán được 50.000 robot hai chân Microducks có khả năng lập trình bằng AI. Ông duy trì quan điểm rằng việc xây dựng công khai, đánh giá chéo và hệ sinh thái chia sẻ là những biện pháp bảo vệ tốt nhất chống lại các rủi ro trong tương lai.
## KIẾN THỨC NỀN
P(Doom) là một thuật ngữ được sử dụng trong cộng đồng công nghệ để chỉ xác suất chủ quan rằng trí tuệ nhân tạo tiên tiến sẽ gây ra sự tuyệt chủng của loài người hoặc thảm họa không thể đảo ngược. Các mô hình trọng số mở đề cập đến các mô hình AI có các tham số đã qua đào tạo như trọng số và độ lệch được công khai để cho phép sử dụng, sửa đổi và tinh chỉnh độc lập.