Anthropic đề xuất tòa án chặn các mô hình AI có rủi ro cao

Trong một bức thư gửi cho Thống đốc bang California Gavin Newsom vào tháng 10, Anthropic đã khuyến nghị chính phủ nên có quyền yêu cầu tòa án ngăn chặn việc phát hành các mô hình AI gây rủi ro lớn cho công cộng. Công ty cũng lập luận rằng các công tắc ngắt khẩn cấp toàn cầu tạo ra cảm giác an toàn giả tạo, thay vào đó họ ủng hộ các biện pháp có mục tiêu cụ thể như vô hiệu hóa các tác nhân AI riêng lẻ. Đề xuất chính sách này đóng góp quan trọng vào cuộc tranh luận đang diễn ra về quy định và sự giám sát trí tuệ nhân tạo hiệu quả giữa các nhà phát triển công nghệ và các cơ quan chính phủ. Nó làm nổi bật nỗ lực của ngành công nghệ trong việc ủng hộ các biện pháp can thiệp tư pháp cân bằng thay vì các công tắc ngắt đơn giản có thể gây mất ổn định hệ thống một cách khó lường. Anthropic trước đây từng đối mặt với các hạn chế tạm thời từ chính phủ đối với các mô hình Mythos 5 và Fable 5 do lo ngại về an ninh quốc gia trước khi Bộ Thương mại Hoa Kỳ hủy lệnh này. Công ty hiện đang chuẩn bị cho một đợt phát hành cổ phiếu ra public (IPO) lớn tại Mỹ, điều này có thể tác động đáng kể đến xu hướng đầu tư trên thị trường.