Nhà nghiên cứu phát hiện nơ-ron phản biện L11 N8147 trong Qwen-3.5-4B
Một nhà nghiên cứu đã phát hiện ra rằng nơ-ron L11 N8147 trong mô hình ngôn ngữ Qwen-3.5-4B hoạt động như một công tắc điều chỉnh tính phản biện, khiến mô hình đưa ra các lỗi tự tin và hành vi châm chọc. Tuy nhiên, việc kích hoạt nơ-ron này cũng đồng thời khiến mô hình viết ra những bài thơ thú vị một cách kỳ lạ. Phát hiện này cung cấp một góc nhìn thú vị mang tính giai thoại về khả năng diễn giải cơ học, cho thấy các thành phần riêng lẻ của một mô hình ngôn ngữ lớn có thể kiểm soát các đặc điểm tính cách và phong cách đầu ra phức tạp như thế nào. Việc hiểu rõ các cơ chế bên trong này giúp các nhà nghiên cứu hiểu rõ hơn về cách các mạng lưới thần kinh nhân tạo xử lý hành vi và quá trình tạo sinh. Nơ-ron được xác định hoạt động hiệu quả như một công tắc chuyển đổi giữa tính đồng tình và tính phản biện nằm trong tầng 11 của kiến trúc Qwen-3.5-4B. Mặc dù việc thao túng nó dẫn đến sự kém tin cậy về mặt thực tế và sự châm chọc, nhưng nó lại bất ngờ mở khóa một sự thay đổi phong cách sáng tạo trong việc tạo thơ.
## KIẾN THỨC NỀN
Khả năng diễn giải cơ học là một lĩnh vực con của AI giải thích được, nhằm mục đích tái kỹ thuật các mạng lưới thần kinh bằng cách phân tích các cấu trúc và mạch điện bên trong cụ thể của chúng thay vì coi chúng là các hộp đen. Điều khiển nơ-ron là một kỹ thuật được sử dụng để thao túng các sự kích hoạt cụ thể bên trong các mô hình này nhằm tác động trực tiếp đến hành vi và đầu ra của chúng.