Lo ngại về quy định an toàn của Anthropic ảnh hưởng đến mô hình AI open-weights

Một cuộc thảo luận đã nổ ra xoay quanh các đề xuất chính sách của Anthropic, điều mà các nhà phê bình cho rằng có thể áp đặt các tiêu chuẩn tuân thủ an toàn phi thực tế lên các mô hình AI open-weights. Những yêu cầu đề xuất này bị một số bên coi là một lệnh cấm ngầm đối với hệ sinh thái open-weights. Nếu được thực thi, các quy định này có thể kìm hãm sự đổi mới trong cộng đồng AI mã nguồn mở và open-weights bằng cách ưu ái các phòng thí nghiệm AI lớn, tập trung vốn có đủ nguồn lực để đáp ứng các tiêu chuẩn tuân thủ nghiêm ngặt. Điều này có thể dẫn đến tình trạng thâu tóm pháp lý (regulatory capture), làm hạn chế quyền tiếp cận của công chúng đối với các công nghệ AI có thể tùy chỉnh. Các mô hình open-weights công khai các tham số đã được huấn luyện, cho phép người dùng chạy và tinh chỉnh cục bộ, khiến việc thực thi các rào chắn an toàn tập trung sau khi phân phối trở nên khó khăn. Các nhà phê bình lập luận rằng việc yêu cầu các nhà phát triển đảm bảo an toàn sau khi phát hành là điều bất khả thi về mặt kỹ thuật và thực tế đối với các mô hình open-weights.