Anthropic cảnh báo rủi ro tấn công mạng từ các mô hình AI như GLM-5.3
Anthropic đã phát hành một phân tích xem xét cách sự phát triển nhanh chóng của các mô hình AI tiên tiến, chẳng hạn như mô hình mã nguồn mở GLM-5.3, đang mở rộng các khả năng tấn công mạng. Báo cáo chi tiết về cách các AI có khả năng lập trình và hoạt động tự chủ dài hạn làm giảm rào cản chuyên môn cần thiết để thực thi các cuộc tấn công mạng phức tạp. Khi khả năng tấn công mạng của các mô hình AI mở rộng nhanh chóng, việc phát hành mô hình mở khiến việc tự động hóa khai thác lỗ hổng tiếp cận được tới nhiều đối tượng hơn. Điều này tạo ra những thách thức an ninh cấp bách đối với quản trị AI, đòi hỏi các rào chắn đánh giá mạnh mẽ hơn trước khi các mô hình tự chủ mạnh mẽ được phân phối rộng rãi. Các mô hình như GLM-5.3 cung cấp quyền truy cập mở không bị hạn chế với khả năng hàng đầu trong kỹ thuật phần mềm phức tạp và nhiệm vụ dài hạn. Các nhà nghiên cứu an toàn nhấn mạnh rằng việc tự động hóa quản lý hạ tầng tấn công và khai thác lỗ hổng đang thu hẹp khoảng cách giữa những người mới bắt đầu và các chuyên gia an ninh mạng.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn tiên tiến đã phát triển từ các công cụ tạo văn bản đơn thuần thành các agent tự chủ có khả năng giải quyết vấn đề đa bước và thực thi mã. Mặc dù các mô hình mở thúc đẩy nghiên cứu minh bạch, chúng cũng khiến việc kiểm soát an toàn sau khi phát hành trở nên khó khăn nếu xuất hiện rủi ro sử dụng kép. Các tổ chức an toàn AI như Anthropic thường xuyên đánh giá các hệ thống này để đo lường các khả năng nguy hiểm trước và sau khi triển khai.