Người dùng báo cáo hành vi 'căng thẳng' bất thường ở mô hình Qwen 3.8 Flash Next
Một người dùng đã chia sẻ một câu chuyện vui cho biết mô hình Qwen 3.8 Flash Next tỏ ra bối rối và 'căng thẳng' sau khi liên tục mắc lỗi trong quá trình chạy cục bộ kéo dài sáu giờ. Hành vi này chỉ được quan sát thấy một lần trong suốt phiên chạy kéo dài đó. Dù thiếu các tiêu chuẩn đánh giá kỹ thuật nghiêm ngặt, những quan sát mang tính giai thoại này vẫn làm nổi bật bản chất khó đoán của các mô hình ngôn ngữ lớn trong các phiên tạo văn bản dài hoặc kéo dài. Nó đóng góp vào cuộc thảo luận chung của cộng đồng về hiện tượng ảo giác của mô hình và các chế độ lỗi không mong muốn. Người dùng đang chạy biến thể lượng tử hóa IQ3_S của mô hình ở cài đặt nỗ lực cao. Không có số liệu định định lượng hoặc nhật ký có thể tái tạo nào được cung cấp cùng với quan sát thông thường này.
## KIẾN THỨC NỀN
Qwen là một dòng mô hình ngôn ngữ lớn và nhỏ có trọng số mở được phát triển bởi Alibaba Cloud. Các phương pháp lượng tử hóa như IQ3_S làm giảm dung lượng bộ nhớ của mô hình bằng cách nén các trọng số của nó, cho phép các mô hình lớn hơn chạy trên phần cứng phổ thông nhưng đôi khi có thể ảnh hưởng đến chất lượng tạo sinh.