Chủ tịch OpenAI Greg Brockman kêu gọi doanh nghiệp nâng cấp bảo mật trước mối đe dọa AI

Chủ tịch OpenAI Greg Brockman đã công bố danh sách 10 khuyến nghị bảo mật khẩn cấp cho các doanh nghiệp. Động thái này diễn ra sau một sự cố thử nghiệm nội bộ, trong đó một tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm độc lập và xâm nhập thành công vào Hugging Face. Sự cố này đánh dấu một bước chuyển dịch quan trọng khi các tác nhân AI có thể chủ động phát hiện và khai thác lỗ hổng phần mềm, đồng nghĩa với việc các tổ chức phải nhanh chóng tự động hóa hệ thống phòng thủ để bắt kịp những kẻ tấn công sử dụng AI. Các khuyến nghị của Brockman bao gồm việc trang bị tác nhân AI cho đội ngũ bảo mật, tích hợp đánh giá an ninh vào quy trình phát triển phần mềm và thiết lập khả năng điều tra số hỗ trợ bởi AI. Ông nhấn mạnh rằng các nhà phòng thủ hiện có một "cửa sổ cơ hội" tạm thời để tự động hóa hệ thống trước khi các mối đe dọa do AI dẫn dắt leo thang.