Đề xuất: Chia sẻ LoRA gỡ kiểm duyệt thay vì trọng số LLM đầy đủ
Một đề xuất của người dùng trên Hugging Face gợi ý chia sẻ các LoRA gỡ kiểm duyệt thay vì tải lên toàn bộ trọng số mô hình đã tinh chỉnh nhằm tiết kiệm đáng kể dung lượng lưu trữ. Cách tiếp cận này cho phép người dùng áp dụng một bản chỉnh sửa gỡ kiểm duyệt duy nhất cho bất kỳ kiến trúc mô hình và cấp độ lượng tử hóa nào. Phương pháp này giúp tối ưu hóa hiệu quả lưu trữ và phân phối trong cộng đồng AI mã nguồn mở bằng cách loại bỏ việc tải lên toàn bộ mô hình trùng lặp. Nó mang lại tính linh hoạt cao hơn, cho phép các nhà phát triển và người dùng dễ dàng áp dụng các chỉnh sửa hành vi trên nhiều mức lượng tử hóa mô hình khác nhau. Đề xuất tập trung vào các kỹ thuật abliteration và gỡ kiểm duyệt, với lập luận rằng một kho lưu trữ tập trung chứa các LoRA chuyên biệt cho từng mô hình có thể giúp việc xếp hạng và lựa chọn phiên bản trở nên hợp lý hơn. Tuy nhiên, đây vẫn là một cuộc thảo luận về kiến trúc và cộng đồng hơn là một bước đột phá kỹ thuật tự động.
## KIẾN THỨC NỀN
LoRA (Low-Rank Adaptation) là một kỹ thuật tinh chỉnh tiết kiệm tham số giúp thích ứng các mô hình đã huấn luyện trước bằng các ma trận nhỏ có thể huấn luyện, đòi hỏi ít tài nguyên hơn nhiều so với tinh chỉnh toàn bộ. Lượng tử hóa mô hình giúp giảm thêm dung lượng bộ nhớ cho quá trình suy luận AI, trong khi abliteration loại bỏ các hành vi từ chối tích hợp sẵn từ các mô hình mở mà không cần huấn luyện lại.