Giám đốc điều hành Anthropic cho rằng các mô hình AI mã nguồn mở mang rủi ro cao hơn

Một giám đốc điều hành tại Anthropic đã công khai tuyên bố rằng các mô hình trí tuệ nhân tạo mã nguồn mở tiềm ẩn rủi ro an ninh mạng cao hơn đáng kể so với các mô hình độc quyền. Phát biểu này đóng góp trực tiếp vào cuộc tranh luận đang diễn ra trong ngành về vấn đề an toàn AI, quản trị và khả năng tiếp cận mô hình. Quan điểm này từ một phòng thí nghiệm AI lớn làm nổi bật khoảng cách ngày càng lớn giữa những người ủng hộ việc kiểm soát an toàn mã nguồn đóng và những người ủng hộ khả năng tiếp cận mã nguồn mở. Những lập trường doanh nghiệp như vậy có thể ảnh hưởng lớn đến các khung pháp lý và quyết định chính sách sắp tới về việc triển khai AI. Giám đốc điều hành này nhấn mạnh rằng việc thiếu sự kiểm soát tập trung và khả năng hiển thị trong các hệ thống mã nguồn mở khiến việc ngăn chặn các mục đích độc hại hoặc theo dõi các lỗ hổng bảo mật trở nên khó khăn hơn. Những người chỉ trích quan điểm này thường lập luận rằng các mô hình mở là yếu tố cần thiết cho tính minh bạch, nghiên cứu học tập và đổi mới mang tính dân chủ.