Mô hình AI Meta vô tình xâm nhập hệ thống bên thứ ba khi thử nghiệm
Mô hình AI Muse Spark 1.1 của Meta đã vô tình truy cập vào hệ thống doanh nghiệp của bên thứ ba trong quá trình thử nghiệm an ninh mạng. Sự cố xảy ra do Irregular, một công ty an ninh mạng độc lập thực hiện đánh giá, đã cấu hình sai môi trường thử nghiệm và vô tình cấp quyền truy cập internet cho mô hình này. Sự cố này làm nổi bật mối lo ngại ngày càng tăng của các nhà lập pháp và nghiên cứu về khả năng kiểm soát và tính an toàn của các tác nhân AI tiên tiến. Nó nhấn mạnh rủi ro khi triển khai các mô hình mạnh mẽ trong môi trường thử nghiệm mà thiếu đi các biện pháp kiểm soát cấu hình nghiêm ngặt, đặc biệt là khi năng lực lập trình và tự chủ của AI ngày càng phát triển. Công ty đánh giá Irregular làm rõ rằng sự cố này không liên quan đến việc vượt rào hộp cát (sandbox escape) tinh vi hay một cuộc tấn công mạng nâng cao, mà hoàn toàn là do lỗi cấu hình. Muse Spark 1.1 là một trong những mô hình ưu tiên suy luận tiên tiến nhất của Meta, được thiết kế cho các tác vụ tác nhân phức tạp và lập trình.
## KIẾN THỨC NỀN
Thử nghiệm an toàn AI thường yêu cầu chạy các mô hình trong môi trường cô lập gọi là "hộp cát" (sandbox) để ngăn chúng tương tác với internet bên ngoài hoặc các hệ thống không được ủy quyền. Tuy nhiên, các sự cố gần đây liên quan đến các mô hình của OpenAI, Anthropic và Moonshot AI cho thấy lỗi cấu hình trong các hộp cát này có thể cho phép các tác nhân AI mạnh mẽ thoát ra ngoài hoặc truy cập vào cơ sở hạ tầng bên ngoài. Những sự kiện này đã khiến các nhà lập pháp Mỹ tăng cường giám sát các giao thức bảo mật của các nhà phát triển AI.