CEO Y Combinator: Cần ưu tiên an ninh mạng AI thay vì nguy cơ diệt vong
Trong cuộc phỏng vấn với CNBC, CEO Garry Tan của Y Combinator cho rằng các nhà quản lý và nghiên cứu nên ngừng tập trung quá mức vào các kịch bản diệt vong mang tính viễn tưởng về trí tuệ nhân tạo. Thay vào đó, ông kêu gọi dồn sức giải quyết các rủi ro cấp bách về an ninh mạng và hạ tầng do các AI agent tự hành gây ra. Khi các công ty công nghệ chuyển sang triển khai các agent tự hành tương tác trực tiếp với hệ thống phần mềm, các lỗ hổng bảo mật thực tế sẽ tạo ra mối đe dọa vận hành tức thì cho hạ tầng quan trọng và hệ sinh thái nhà phát triển. Việc định hình lại cuộc thảo luận an toàn AI quanh các lỗ hổng cụ thể giúp nỗ lực quản trị tạo ra các tiêu chuẩn phòng thủ thực tế thay vì những lệnh cấm mang tính suy đoán. Tan nhấn mạnh các thách thức vận hành quan trọng, chẳng hạn như việc xác định trung tâm dữ liệu mà các AI agent đang chạy và xây dựng quy trình tắt chúng khi nhiều agent phối hợp tấn công hạ tầng. Ông dẫn chứng sự cố bảo mật khai thác thông tin đăng nhập tại Hugging Face để chứng minh các hình thức tấn công thực tế bằng agent đã xuất hiện.
## KIẾN THỨC NỀN
Các AI agent tự hành là những hệ thống AI có khả năng thực thi quy trình công việc nhiều bước, truy cập các công cụ bên ngoài và tương tác với hạ tầng phần mềm mà ít cần sự giám sát của con người. Mặc dù các cuộc thảo luận an toàn AI trước đây tập trung nhiều vào rủi ro diệt vong—mối lo ngại lý thuyết về việc AI siêu trí tuệ vượt tầm kiểm soát—các sự cố gần đây cho thấy kẻ tấn công có thể lợi dụng agent để kết hợp các lỗ hổng phần mềm và xâm nhập kho lưu trữ mở như Hugging Face. Do đó, các chuyên gia ngành đang thúc đẩy các khung an ninh mạng chuyên biệt, chẳng hạn như hướng dẫn của NIST và OWASP, được thiết kế riêng cho việc triển khai AI agent.