CrowdStrike và AWS ra mắt thử thách Red-Teaming "AI Unlocked" trị giá 100.000 USD
CrowdStrike hợp tác cùng AWS đã ra mắt thử thách bảo mật AI trực tuyến toàn cầu mang tên "AI Unlocked: Agents of Chaos" với tổng giải thưởng 100.000 USD. Bắt đầu từ ngày 31 tháng 8, người tham gia sẽ đóng vai trò là các chuyên gia red-team hoạt động bí mật để kiểm soát và vô hiệu hóa các tác nhân AI bị vũ khí hóa bằng các kỹ thuật như tấn công chèn lệnh (prompt injection). Khi các tác nhân AI (AI agent) ngày càng tự chủ và thực hiện các tác vụ phức tạp, chúng cũng mang lại các lỗ hổng nghiêm trọng như chèn lệnh (prompt injection) và chiếm quyền điều khiển (hijacking) vượt qua các ranh giới bảo mật truyền thống. Thử thách được trò chơi hóa này giúp các chuyên gia an ninh mạng tích lũy kinh nghiệm thực tế trong việc bảo vệ hệ thống AI của doanh nghiệp trước các chiến thuật tấn công ngoài đời thực. Cuộc thi được chia thành ba phần diễn ra từ ngày 31 tháng 8 đến ngày 29 tháng 9, với cách tính điểm dựa trên việc giải đố và bị trừ điểm dựa trên số lượng token tiêu thụ. Quỹ giải thưởng được phân bổ qua các phần, kết thúc bằng giải thưởng lớn trị giá 70.000 USD cho phần cuối cùng mang tên "The Basilisk".
## KIẾN THỨC NỀN
Tấn công chèn lệnh (prompt injection) là một lỗ hổng bảo mật khi các đầu vào độc hại thao túng Mô hình Ngôn ngữ Lớn (LLM) để thực hiện các hành động trái phép hoặc tiết lộ dữ liệu nhạy cảm. Red-teaming AI là hoạt động mô phỏng các cuộc tấn công đối kháng vào hệ thống AI nhằm phát hiện các lỗi an toàn và bảo mật trước khi kẻ tấn công thực tế có thể khai thác. Chiếm quyền điều khiển tác nhân AI (AI agent hijacking) xảy ra khi kẻ tấn công giành quyền kiểm soát một tác nhân AI tự chủ, buộc nó phải thực hiện các tác vụ ngoài ý muốn trong môi trường doanh nghiệp.