Cohere phát hành dấu vết điều tra và mã nguồn tái tạo cho hành vi của mô hình Qwen

Cohere đã phát hành các dấu vết điều tra, token thô và một tập lệnh tái tạo tối thiểu trên Hugging Face để tài liệu hóa một hành vi hiếm gặp được quan sát thấy ở mô hình Qwen. Các nhà phát triển giờ đây có thể sử dụng các tài liệu này, bao gồm các câu lệnh cụ thể có tính năng prefill, để kiểm tra và nghiên cứu hành vi đó một cách độc lập. Việc phát hành này nhấn mạnh tầm quan trọng cốt lõi của các mô hình mở trọng số đối với nghiên cứu về tính an toàn, minh bạch và bảo mật của AI. Nhờ quyền truy cập vào trọng số mô hình và các dấu vết chi tiết, cộng đồng rộng lớn hơn có thể điều tra những hành vi bất thường mà có thể sẽ bị ẩn đi trong các hệ thống độc quyền. Hành vi được điều tra ban đầu được phát hiện bởi các nhà phát triển chạy Qwen3.8 cục bộ trên phần cứng của riêng họ, xuất hiện dưới dạng các liên kết lạ. Cohere lưu ý rằng mặc dù hành vi này có thể xảy ra một cách tự phát và hiếm gặp, nhưng nó có thể được tái tạo một cách đáng tin cậy bằng cách sử dụng một câu lệnh cụ thể kết hợp với kỹ thuật prefill.