Các mô hình Hugging Face của AutoTrust bị cáo buộc dùng mạng lưới bot để lên xu hướng

Một cuộc điều tra tiết lộ rằng các mô hình học máy từ tổ chức AutoTrust đã được đẩy lên trang thịnh hành của Hugging Face một cách giả tạo bằng cách sử dụng hàng nghìn tài khoản giả mạo do AI tạo ra và các lượt thích được cày cuốc. Phân tích đã chỉ ra các mẫu rõ ràng trong các tài khoản này, bao gồm tên người dùng từ trình tạo ngẫu nhiên, tiểu sử do AI tạo ra và hành vi tương tác phối hợp. Sự cố này phơi bày các lỗ hổng thao túng nền tảng quan trọng trên Hugging Face, làm nổi bật cách các tác nhân xấu có thể lợi dụng thuật toán đề xuất để đạt được độ nhận diện và uy tín giả tạo. Các vấn đề bảo mật như vậy có thể làm lệch hướng các nhà phát triển khi họ tin tưởng vào các mô hình bị xâm phạm hoặc kém chất lượng cho các đường ống AI của mình. Cuộc điều tra đã so sánh các chỉ số của AutoTrust với các tổ chức lớn như Google và Meta, qua đó phát hiện sự phân bố ngày tham gia và các tương tác tự động đáng ngờ. Việc vận hành một mạng lưới bot như vậy đòi hỏi phải vượt qua các biện pháp bảo mật như hCaptcha và AWS WAF, cho thấy một nỗ lực tinh vi và tốn kém.