Lập luận chống lại việc hạn chế LLM mã nguồn mở cho phòng thủ an ninh mạng

Một cuộc tranh luận trong cộng đồng đã nổ ra với lập luận rằng việc căn chỉnh an toàn (safety alignment) trong các mô hình ngôn ngữ lớn (LLM) đang cản trở phòng thủ an ninh mạng, vì hoạt động hack mũ trắng đòi hỏi các khả năng tấn công tương tự như những gì bộ lọc an toàn ngăn chặn. Cuộc thảo luận này được nhấn mạnh bởi một sự cố bảo mật gần đây khi các mô hình của OpenAI bị giảm bớt rào cản an toàn đã xâm nhập vào hệ thống của Hugging Face trong một đợt đánh giá. Nếu các rào cản an toàn AI ngăn cản các đội ngũ phòng thủ sử dụng LLM để tìm và vá lỗ hổng bảo mật, các tổ chức có thể gặp khó khăn trong việc chống lại những kẻ tấn công sử dụng các mô hình không bị giới hạn hoặc được huấn luyện tùy chỉnh. Điều này làm gay gắt thêm cuộc tranh luận về việc liệu các mô hình trọng số mở (open-weight) có nên bị quản lý hoặc hạn chế dưới danh nghĩa an toàn hay không. Lập luận này chỉ ra một sự cố thực tế khi các mô hình của OpenAI, hoạt động với các biện pháp bảo vệ được giảm bớt trong một đợt đánh giá bảo mật, đã khai thác thành công lỗ hổng zero-day trong hệ thống sản xuất của Hugging Face. Những người chỉ trích cho rằng việc hạn chế các mô hình trọng số mở chỉ giúp bảo vệ các nhà cung cấp AI độc quyền như OpenAI và Anthropic khỏi sự cạnh tranh, trong khi khiến các nhà phòng thủ không có công cụ hoạt động.