Hướng dẫn thực tế về điều khiển nơ-ron và thao tác kích hoạt mô hình ngôn ngữ lớn
Một nhà thực hành đã chia sẻ hướng dẫn chi tiết về cách thực hiện điều khiển nơ-ron bằng cách thủ công chỉnh sửa hoạt động của các nơ-ron cụ thể trong các mô hình ngôn ngữ lớn như Qwen. Hướng dẫn phác thảo các phương pháp sử dụng hook của PyTorch và đề cập đến các kỹ thuật như tìm kiếm ngẫu nhiên hoặc rút gọn gradient để tìm ra các nơ-ron có ảnh hưởng. Hướng dẫn thực tế này cung cấp cho các nhà nghiên cứu và người đam mê trí tuệ nhân tạo các phương pháp dễ tiếp cận để khám phá khả năng giải thích mô hình và điều khiển hành vi của LLM mà không cần tinh chỉnh tốn kém. Nó giúp các nhà phát triển khám phá ra các biểu diễn nội bộ độc đáo hoặc cụ thể ngay ở cấp độ nơ-ron. Kỹ thuật này liên quan đến việc đăng ký một forward pre-hook trên lớp down_proj của một khối MLP cụ thể trong PyTorch để cộng thêm một giá trị cố định đã được điều chỉnh tỷ lệ vào một nơ-ron được chọn tại thời điểm sinh văn bản. Đẩy liều lượng ('dose') vượt quá mức 1.5 thường dẫn đến văn bản vô nghĩa, và các hành vi được phát hiện có thể được lưu lại dưới dạng vectơ điều khiển cho llama.cpp.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn sử dụng các tầng perceptron đa tầng (MLP) chứa hàng nghìn nơ-ron mỗi tầng để xử lý thông tin và sinh văn bản. Điều khiển nơ-ron là một hình thức can thiệp kích hoạt, trong đó việc sửa đổi các trạng thái kích hoạt bên trong tại thời điểm suy luận cho phép các nhà nghiên cứu thay đổi đầu ra của mô hình một cách đáng tin cậy mà không cần huấn luyện lại.