Sự cố Hugging Face, bom ngữ cảnh và phân tích mật mã bằng AI Mythos
Bản tin TL;DR Sec mới nhất nêu bật báo cáo chi tiết về sự cố của Hugging Face, sự xuất hiện của "bom ngữ cảnh" (context bombs) để ngăn chặn kẻ tấn công bằng AI, và mô hình AI Mythos của Anthropic phát hiện ra các điểm yếu mật mã trong HAWK và AES. Những phát triển này cho thấy sự thay đổi trong an ninh mạng, nơi AI vừa được sử dụng như một công cụ tấn công đòi hỏi các biện pháp phòng thủ mới như bom ngữ cảnh, vừa là một cơ chế mạnh mẽ để phân tích mật mã tự động có thể phá vỡ các thuật toán hậu lượng tử. "Bom ngữ cảnh" hoạt động như các lệnh tiêm phòng thủ được đặt trong dữ liệu mồi nhử để kích hoạt rào cản an toàn của các tác nhân AI tấn công, trong khi mô hình Mythos Preview của Anthropic đã tìm ra một cuộc tấn công mạng lưới làm giảm một nửa độ bảo mật của thuật toán chữ ký hậu lượng tử HAWK.
## KIẾN THỨC NỀN
HAWK là một lược đồ chữ ký số được thiết kế để chống lại các cuộc tấn công từ máy tính lượng tử trong tương lai, vốn đang trong quá trình chuẩn hóa của NIST trước khi có những phát hiện này. Phân tích mật mã (cryptanalysis) là việc nghiên cứu các hệ thống thông tin để tìm ra các khía cạnh ẩn giấu, chẳng hạn như điểm yếu trong thuật toán mật mã. Tiêm câu lệnh (prompt injection) là một lỗ hổng bảo mật mà kẻ tấn công thao túng hành vi của AI bằng cách chèn các hướng dẫn độc hại vào đầu vào của nó.