Mô hình Qwen nội bộ thể hiện khả năng diễn giải tự nhiên trọng số mạng thần kinh

Simon Willison đã chứng minh rằng mô hình mở Qwen 3.8 27B chạy trên máy tính cá nhân có thể diễn giải và phân tích các trọng số mạng thần kinh thô mà không cần công cụ bên ngoài. Khả năng này dựa trên nghiên cứu gần đây giới thiệu khái niệm 'Lập trình không gian trọng số', nơi các mô hình ngôn ngữ lớn đọc và ghi trực tiếp các tham số mô hình. Sự phát triển này mở rộng ranh giới của các khả năng AI bằng cách cho thấy việc phân tích không gian trọng số không chỉ giới hạn ở các mô hình biên đóng như GPT-6 Astra. Nó mở ra những hướng đi mới dễ tiếp cận cho các nhà nghiên cứu để hiểu, gỡ lỗi và chỉnh sửa mô hình học máy trực tiếp ở cấp độ tham số. Bài nghiên cứu nền tảng nhấn mạnh rằng các mô hình biên có thể nhận diện mạng chơi game hoặc sửa lỗi trong các mô hình nhỏ bằng cách chỉnh sửa một phần nhỏ trọng số của chúng. Willison đã thử nghiệm cụ thể khả năng lập luận của Qwen đối với các mảng trọng số dấu phẩy động thô mà không cần thực thi mã nguồn hay máy tính.