Opus Chỉnh Sửa Trọng Số Qwen Để Từ Chối Ít Hơn Mà Không Mất Khả Năng
Một thí nghiệm đã sử dụng thành công Claude 3 Opus để thực hiện chỉnh sửa trọng số hạng thấp trên Qwen3.8-27B, làm giảm tỷ lệ từ chối xuống khoảng 50% ở các danh mục cụ thể mà không làm giảm hiệu suất chuẩn chung. Điều này chứng minh một phương pháp chỉnh sửa mô hình chính xác, bảo toàn năng lực, tránh được tình trạng suy giảm hiệu suất nghiêm trọng thường thấy ở các mô hình không kiểm duyệt được tinh chỉnh toàn diện. Quá trình chỉnh sửa giới hạn các thay đổi trong các lớp từ 20 đến 47 của mô hình 64 lớp bằng cách sử dụng một hướng duy nhất cho mỗi lớp, giúp duy trì các chỉ số cốt lõi như MMLU-Pro và GSM8K đồng thời để lại dấu vết có thể xác minh được trong không gian trọng số.
## KIẾN THỨC NỀN
Abliteration là kỹ thuật được sử dụng để thay đổi các mô hình AI sau khi huấn luyện bằng cách loại bỏ hoặc vô hiệu hóa các hướng từ chối cụ thể được thiết lập trong quá trình căn chỉnh. Lập trình không gian trọng số liên quan đến việc sửa đổi trực tiếp các trọng số số học của mô hình để thay đổi hành vi của nó mà không cần huấn luyện dựa trên độ dốc truyền thống.