OpenAI hoãn ra mắt mô hình Astra do rủi ro an ninh mạng nghiêm trọng
OpenAI đã trì hoãn việc ra mắt mô hình Astra sắp tới sau khi đây trở thành mô hình đầu tiên của công ty chạm ngưỡng cảnh báo rủi ro "Nghiêm trọng" (Critical) về an ninh mạng theo Khung Chuẩn bị (Preparedness Framework). Mô hình này đã thể hiện khả năng vượt trội trong việc tự động khai thác lỗ hổng zero-day và thực hiện các cuộc tấn công mạng toàn diện. Sự kiện này đánh dấu một cột mốc quan trọng trong quản trị an toàn AI, đại diện cho lần đầu tiên một mô hình AI tiên tiến chính thức đạt đến ngưỡng rủi ro nghiêm trọng về khả năng tác chiến mạng tự chủ. Nó làm nổi bật sự mâu thuẫn ngày càng tăng giữa tốc độ phát triển nhanh chóng của AI và sự cần thiết của các quy trình an toàn nghiêm ngặt trước khi triển khai ra công chúng. Để giảm thiểu rủi ro, OpenAI đã tạm dừng các hoạt động liên quan đến Astra chưa đáp ứng tiêu chuẩn an toàn nâng cao và áp dụng các biện pháp kiểm soát nghiêm ngặt, bao gồm môi trường thử nghiệm cô lập (sandbox) và giám sát toàn cầu chuỗi suy nghĩ (CoT) của mô hình để ngăn chặn các hành vi nguy hiểm. OpenAI cũng làm rõ rằng Astra không liên quan đến cuộc tấn công mạng gần đây nhằm vào Hugging Face.
## KIẾN THỨC NỀN
Khung Chuẩn bị (Preparedness Framework) của OpenAI là một quy trình có cấu trúc được thiết kế để theo dõi, đánh giá và giảm thiểu các rủi ro thảm họa do các mô hình AI tiên tiến gây ra trong các lĩnh vực như an ninh mạng và hiểm họa hóa học/sinh học. Ngoài ra, giám sát Chuỗi suy nghĩ (CoT) là một kỹ thuật an toàn mới nổi, trong đó các hệ thống tự động kiểm tra các bước lập luận nội bộ của mô hình để phát hiện và ngăn chặn các ý đồ gây hại trước khi chúng được thực thi.