Lập trường của Anthropic về các mô hình AI mở trọng số và quy định an toàn

Anthropic đã công bố một tuyên bố chính sách làm rõ lập trường của mình về các mô hình AI mở trọng số (open-weights), phản đối lệnh cấm hoàn toàn nhưng ủng hộ việc kiểm tra an toàn bắt buộc đối với các mô hình có năng lực cao. Công ty cũng ủng hộ việc hạn chế tiếp cận phần cứng, chẳng hạn như bán chip cho các đối thủ địa chính trị như Trung Quốc. Là một phòng thí nghiệm AI hàng đầu, lập trường của Anthropic có ảnh hưởng lớn đến cuộc tranh luận toàn cầu đang diễn ra về quy định AI, cân bằng giữa lợi ích của đổi mới sáng tạo mã nguồn mở và rủi ro bị lạm dụng trong vũ khí sinh học hoặc chiến tranh mạng. Chính sách này có thể định hình luật pháp tương lai liên quan đến cách quản lý các nhà phát triển AI mã nguồn mở so với các công ty AI độc quyền. Anthropic đề xuất rằng cả mô hình biên giới đóng và mở đều phải trải qua các đánh giá an toàn bắt buộc, mặc dù những người chỉ trích cho rằng điều này có thể tạo ra chi phí tuân thủ cao, hoạt động như một lệnh cấm ngầm đối với việc phát triển mô hình mở trọng số. Ngoài ra, chính sách này nhấn mạnh vào việc kiểm soát phần cứng chặt chẽ và triệt phá nạn buôn lậu chip để ngăn chặn các đối thủ huấn luyện các mô hình tiên tiến.