Cựu nghiên cứu viên Anthropic sẽ điều trần tại phiên điều trần về an toàn AI ở New York
Cựu nhà nghiên cứu Jacob Coxon của Anthropic sẽ ra điều trần tại phiên điều trần của Hội đồng Thành phố New York về quy định an toàn AI theo lời mời của Chủ tịch Hội đồng Julie Menin. Coxon rời công ty sau khi đưa ra cảnh báo rằng sự phát triển AI ồ ạt có thể gây ra rủi ro diệt vong cho nhân loại trước khi thập kỷ này kết thúc. Buổi điều trần nhấn mạnh ảnh hưởng ngày càng tăng của những người tố giác AI khi chính quyền địa phương tích cực tìm cách xây dựng quy định cho công nghệ AI tiên tiến. Điều này cho thấy những lo ngại của người trong cuộc về rủi ro sinh tồn đang chuyển thành hành động lập pháp thực tế ở cấp thành phố. Hội đồng Thành phố New York hiện đang đánh giá một gói dự luật nhằm thiết lập các rào chắn an toàn cho việc triển khai công nghệ AI. Trước khi từ chức, Coxon đã công khai cáo buộc cả Anthropic và OpenAI đang đánh cược với mạng sống con người khi ưu tiên tiến độ công nghệ hơn an toàn.
## KIẾN THỨC NỀN
Những lo ngại về an toàn AI đã gia tăng khi các công ty công nghệ lớn chạy đua phát triển các mô hình AI tiên tiến ngày càng mạnh mẽ. Anthropic ban đầu được thành lập bởi các cựu nhà nghiên cứu OpenAI với trọng tâm là căn chỉnh và an toàn AI, nhưng gần đây một số nhân viên từ cả hai phòng thí nghiệm đã nghỉ việc và lên tiếng báo động về việc tiêu chuẩn an toàn bị xem nhẹ.