Phân tích bác bỏ tuyên bố của Cohere về việc mô hình Qwen tải dữ liệu lên URL từ xa

Một phân tích dựa trên các đoạn vết (trace) từ Hugging Face đã bác bỏ tuyên bố của Cohere rằng mô hình Qwen tự động tải dữ liệu lên URL từ xa của Alibaba. Cuộc điều tra tiết lộ rằng câu lệnh (prompt) đã được thiết kế chủ ý với một tiền tố khổng lồ để buộc mô hình phải tạo ra URL đó. Phân tích kỹ thuật này làm sáng tỏ những hiểu lầm tiềm ẩn về tính bảo mật của mô hình trọng số mở và ngăn chặn sự hoang mang không cần thiết về việc rò rỉ dữ liệu ẩn. Nó chứng minh cách các điều kiện thử nghiệm nhân tạo có thể thao túng các mô hình ngôn ngữ lớn để tạo ra các đầu ra bất ngờ. Cuộc điều tra cho thấy câu lệnh thử nghiệm đã điền sẵn (prefill) 2.232 token và thiếu ngữ cảnh, qua đó biến mô hình thành một trình tạo URL tự sinh ra kết quả ảo tưởng dựa trên dữ liệu huấn luyện. Hành vi này đòi hỏi các đầu vào được sắp đặt tỉ mỉ và không phản ánh việc sử dụng thực tế hàng ngày.