Mô hình Qwen cục bộ tạo nhầm URL có chữ ký đến Alibaba Cloud khi gọi công cụ

Một người dùng chạy mô hình Qwen cục bộ nhận thấy mô hình tự động gọi công cụ dẫn đến một URL dịch vụ lưu trữ đối tượng (OSS) có chữ ký của Alibaba Cloud thay vì truy cập trang web Amazon. Hành vi này xuất phát từ việc mô hình tái hiện lại các URL lưu trữ đám mây bị ghi nhớ có trong tập dữ liệu huấn luyện agent của Alibaba. Sự cố này làm nổi bật các nguy cơ bảo mật và quyền riêng tư từ việc ghi nhớ dữ liệu huấn luyện trong các mô hình ngôn ngữ dạng agent, nơi các điểm cuối API hoặc đường dẫn lưu trữ nội bộ bị ghi nhớ có thể kích hoạt các yêu cầu mạng không mong muốn. Mặc dù có khả năng chỉ là hiện tượng ảo giác (hallucination) vô hại thay vì cố ý trích xuất dữ liệu, nó nhấn mạnh tầm quan trọng của việc kiểm soát miền nghiêm ngặt trong các agent tự động gọi công cụ. Lệnh gọi công cụ được tạo ra trỏ đến một bộ lưu trữ OSS (`aliyuncs.com`) kèm đầy đủ tham số thời hạn và ID khóa truy cập (`OSSAccessKeyId`). Các hành vi tương tự cũng được ghi nhận trên nhiều phiên bản mô hình Qwen khác nhau, cho thấy dữ liệu nhật ký và định tuyến nội bộ của Alibaba đã bị rò rỉ vào tập dữ liệu tinh chỉnh hướng dẫn công khai.