Bryan Cantrill chỉ trích sự hoang mang vô cớ về nguy cơ diệt vong do AI
Chuyên gia kỹ thuật hệ thống Bryan Cantrill đã xuất bản bài viết chỉ trích các tuyên bố tận thế từ các nhà nghiên cứu AI, tiêu biểu như cựu nhân viên Anthropic Jacob Coxon - người cho rằng AI có thể tiêu diệt nhân loại vào cuối thập kỷ này. Cantrill tranh luận rằng các nhà nghiên cứu AI đang lạm dụng lòng tin của công chúng khi lan truyền những suy đoán sợ hãi thuộc các lĩnh vực ngoài chuyên môn của họ, chẳng hạn như vũ khí sinh học hay hạ tầng tới hạn. Bài bình luận này mang lại một góc nhìn thực tế cần thiết chống lại làn sóng tranh luận về rủi ro diệt vong thường xuất phát từ các phòng thí nghiệm AI lớn, đồng thời kêu gọi sự cẩn trọng dựa trên thực nghiệm thay vì thổi phồng. Nó nhấn mạnh nghĩa vụ đạo đức của các chuyên gia kỹ thuật trong việc tránh gây hoang mang cho công chúng bằng những suy đoán mơ hồ. Cantrill nhấn mạnh rằng các nhà nghiên cứu cảnh báo về vũ khí sinh học hoặc sụp đổ hạ tầng do AI gây ra thường thiếu chuyên môn sâu về sinh học hoặc an ninh hạ tầng tới hạn. Ông kêu gọi sự tham gia của các chuyên gia thực thụ trong ngành, như các nhà sinh học hay chuyên gia vũ khí sinh học, để đánh giá các năng lực này thay vì để sự sợ hãi lấp đầy các khoảng trống kỹ thuật.
## KIẾN THỨC NỀN
Rủi ro diệt vong từ trí tuệ nhân tạo (AI x-risk) đã trở thành một chủ đề thảo luận nổi bật, đặc biệt là đối với các nhà nghiên cứu tại các tổ chức an toàn AI như Anthropic. Các mối lo ngại thường liên quan đến việc các Mô hình Ngôn ngữ Lớn (LLM) có thể hỗ trợ kẻ xấu tạo vũ khí sinh học hoặc tấn công mạng, mặc dù giới phê bình tranh luận rằng những kịch bản tận thế này thường dựa trên sự suy đoán hơn là bằng chứng kỹ thuật cụ thể.