CEO Hugging Face cảnh báo cấm AI mã nguồn mở gây hại cho phòng thủ mạng
CEO Clement Delangue của Hugging Face cảnh báo rằng việc hạn chế AI mã nguồn mở sẽ gây hại cho lực lượng phòng thủ mạng nhiều hơn kẻ tấn công. Ông dẫn chứng việc các rào cản bảo mật của mô hình Mỹ đã buộc công ty phải dùng một mô hình mã nguồn mở của Trung Quốc để chống lại một cuộc tấn công mạng tự động. Sự việc này cho thấy các rào cản bảo mật quá nghiêm ngặt trên các mô hình AI độc quyền có thể phản tác dụng, gây cản trở khả năng ứng phó sự cố và buộc các tổ chức phải tìm đến các giải pháp mã nguồn mở của nước ngoài. Điều này làm gia tăng tranh luận về quy định quản lý AI, an ninh quốc gia và vai trò thiết yếu của AI mã nguồn mở trong an ninh mạng. Trong sự cố này, các nỗ lực phòng thủ của Hugging Face đã bị chặn bởi các rào cản an toàn của các mô hình AI Mỹ, vốn gắn cờ các hành động phòng thủ hoặc phân tích của họ là độc hại. Do đó, họ đã triển khai thành công một mô hình mã nguồn mở của Trung Quốc không bị giới hạn bởi các rào cản này để ngăn chặn mối đe dọa tự động.
## KIẾN THỨC NỀN
Rào cản bảo mật AI (AI guardrails) là các biện pháp bảo vệ phần mềm được thiết kế để kiểm duyệt đầu vào và đầu ra của các mô hình ngôn ngữ lớn nhằm ngăn chặn việc tạo ra nội dung độc hại. Tuy nhiên, các rào cản này đôi khi có thể nhầm lẫn các nghiên cứu an ninh mạng hợp pháp hoặc các hành động phòng thủ là hoạt động tấn công. Trong khi đó, các cuộc tấn công mạng tự động sử dụng các tác nhân AI để thực hiện các hành vi khai thác tự động nhiều bước, đòi hỏi các biện pháp phòng thủ bằng AI phải phản ứng nhanh chóng và linh hoạt.