Khám phá các lỗ hổng bảo mật mô hình AI thông qua kỹ thuật Trojan Lazarus
Một nhà nghiên cứu đã đăng tải một bài viết kỹ thuật chi tiết về quá trình tư duy và cấu trúc đằng sau việc sử dụng kỹ thuật Lazarus để cấy ghép các hành vi độc hại vào trọng số của mô hình AI. Nghiên cứu này làm nổi bật các lỗ hổng bảo mật quan trọng trong các mô hình học máy mã nguồn mở, cho thấy các sửa đổi đối kháng có thể vượt qua các biện pháp an toàn truyền thống trong chuỗi cung ứng AI như thế nào. Phân tích kỹ thuật này khám phá cách các Trojan cửa sau có thể được nhúng ngầm vào trọng số của mạng thần kinh, gây ra rủi ro đáng kể cho các nhà phát triển tải xuống các mô hình đã được huấn luyện sẵn từ các kho lưu trữ công khai.
## KIẾN THỨC NỀN
Trọng số mô hình AI đại diện cho các tham số cốt lõi được học trong quá trình huấn luyện, quyết định cách mạng thần kinh xử lý thông tin. Khi các tác nhân độc hại can thiệp vào các trọng số này, chúng có thể tạo ra các cửa sau ẩn, thường được gọi là Trojan, kích hoạt các đầu ra có hại trong các điều kiện cụ thể trong khi các hoạt động khác vẫn diễn ra bình thường.