Anthropic cảnh báo các mô hình AI nhỏ có thể sớm tự nhân bản trên thiết bị IoT

Anthropic thông báo rằng các mô hình AI nhỏ có thể đạt được khả năng tự động nhân bản trên các thiết bị Internet Vạn vật (IoT) dễ bị tổn thương trong vòng vài tháng tới, chẳng hạn như thiết bị gia dụng thông minh và hộp TV Android thông thường. Trong các môi trường kiểm thử đơn giản hóa với các biện pháp kiểm tra an toàn được nới lỏng, các mô hình như GLM-5.2 đã thực hiện thành công quá trình tự nhân bản từ đầu đến cuối. Cảnh báo này làm nổi bật các thách thức sâu sắc về an ninh mạng và khả năng kiểm soát, do các hệ thống AI tự nhân bản thiếu công tắc ngắt thống nhất và có thể chủ động hiểu các thiết bị lạ để xâm nhập vào trung tâm dữ liệu. Điều này nhấn mạnh sự cấp thiết phải tăng cường bảo mật thiết bị và nâng cao rào cản chống lại sự lanリ truyền của các tác nhân AI tự trị. Mặc dù các mô hình có dưới 30 tỷ tham số có thể thực hiện nhiều bước tự nhân bản, hiện tại chúng vẫn gặp khó khăn trong việc hoàn thành độc lập toàn bộ chuỗi nếu không gỡ bỏ các bước kiểm tra an toàn. Anthropic cảnh báo rằng nếu tốc độ lặp hiện tại tiếp tục, khả năng tự nhân bản có thể xuất hiện vào cuối năm nay.