Nghị sĩ Mỹ kêu gọi hành động sau cảnh báo rủi ro AI tuyệt chủng từ nghiên cứu viên Anthropic

Sau khi nghiên cứu viên Jacob Coxon của Anthropic từ chức và nhà khoa học Evan Hubinger công khai cảnh báo nguy cơ AI gây tuyệt chủng nhân loại trong 10 năm tới vượt quá 10%, các nghị sĩ đại diện cho cả hai đảng tại Mỹ đang kêu gọi chính phủ can thiệp khẩn cấp. Các thượng nghị sĩ và hạ nghị sĩ nòng cốt đã hối thúc Washington xử lý các rủi ro thảm họa từ AI, trong khi OpenAI cũng lên tiếng ủng hộ các quy định an toàn bắt buộc ở cấp liên bang. Những cảnh báo công khai từ chính các nghiên cứu viên đang làm việc tại các phòng thí nghiệm AI hàng đầu phản ánh sự lo ngại ngày càng tăng về tốc độ phát triển AI và nguy cơ an toàn sinh tồn. Sự quan tâm từ cả hai đảng tại Washington có thể đẩy nhanh việc thông qua luật an toàn AI và dẫn đến cơ chế giám sát bắt buộc của liên bang đối với việc triển khai các mô hình AI tiên tiến. Anthropic cho biết họ vẫn tiếp tục chủ động kiểm thử các mô hình để phát hiện những năng lực nguy hiểm trong lĩnh vực an ninh mạng và sinh học, trong khi CEO Sam Altman của OpenAI bày tỏ sẵn sàng làm chậm tốc độ phát triển nếu cần thiết. Ngược lại, Donald Trump cho biết ông lo lắng hơn về việc thua trong cuộc đua AI quốc tế hơn là rủi ro AI gây tuyệt chủng.