Phát hành phiên bản GGUF và Abliterated cho DeepSeek V4.1 Flash 1017

Một nhà phát triển đã phát hành các định dạng lượng tử hóa GGUF và phiên bản đã khử kiểm duyệt (abliterated) của mô hình DeepSeek V4.1 Flash 1017 mới ra mắt. Bằng cách đo lường và loại bỏ một không gian con hạng 2 thay vì chỉ một hướng từ chối đơn lẻ, nhà phát triển đã giảm thành công tỷ lệ từ chối từ 97% xuống còn 4% ở chế độ thông thường. Đóng góp này giúp cộng đồng LLM chạy cục bộ dễ dàng vận hành mô hình DeepSeek mới một cách hiệu quả trên phần cứng phổ thông mà vẫn vượt qua được các hành vi từ chối quá khắt khe. Nó cung cấp một cách tiếp cận tinh tế hơn đối với việc chỉnh sửa sự căn chỉnh mô hình nhằm bảo tồn năng lực tổng thể tốt hơn các kỹ thuật gỡ bỏ kiểm duyệt truyền thống. Ở chế độ suy luận (think mode), tỷ lệ từ chối đã giảm từ 98% xuống còn 9% sau khi khử kiểm duyệt do chế độ trò chuyện và chế độ suy luận từ chối theo các hướng khác nhau. Thêm vào đó, một bộ điều hợp LoRA cũng được phát hành cho các tệp GGUF để người dùng có thể áp dụng các thay đổi mà không cần tải lại toàn bộ tập trọng số.