Khám phá Lập trình Không gian Trọng số: Khả năng, Khả năng Tổng quát hóa và Hạn chế
Các nhà nghiên cứu đã khảo sát một cách có hệ thống về Lập trình Không gian Trọng số (WSP), một mô hình trong đó các tác nhân suy luận trực tiếp kiểm tra và sửa đổi các tham số của mạng thần kinh mà không cần dùng phương pháp giảm độ dốc. Sử dụng 16 quỹ đạo chỉnh sửa trên bảy tiêu chuẩn đánh giá và hai tỷ lệ mô hình (Qwen3.5-0.8B và Qwen3.5-9B), nghiên cứu đã đánh giá hiệu suất, khả năng tổng quát hóa xuyên tác vụ và các hạn chế thực tế của WSP. Nghiên cứu này cung cấp những hiểu biết thực nghiệm quan trọng về việc thích ứng mô hình không cần độ dốc, chứng minh rằng việc sửa đổi tham số cục bộ bởi các tác nhân có thể mang lại những cải thiện đáng kể về hiệu suất và khả năng chuyển giao xuyên tác vụ. Tuy nhiên, nó cũng làm nổi bật những thách thức lớn về độ tin cậy và tính nhất quán của sự can thiệp cần phải được giải quyết cho các ứng dụng thực tế. Nghiên cứu phát hiện ra rằng việc chỉ sửa đổi 1.023 tham số đã mang lại mức cải thiện 29.45 điểm phần trăm trên MATH-500, và các điểm kiểm tra thể hiện khả năng tổng quát hóa xuyên tác vụ không đồng đều. Hơn nữa, 6 trong số 16 quỹ đạo chỉnh sửa đã giữ nguyên các trọng số ban đầu do các cải tiến ứng viên không thể được xác thực một cách đáng tin cậy.
## KIẾN THỨC NỀN
Lập trình không gian trọng số là một phương pháp học máy trong đó các mô hình ngôn ngữ lớn đa năng đọc, giải thích và trực tiếp ghi lại trọng số của một mạng thần kinh nhân tạo khác mà không sử dụng phương pháp giảm độ dốc hay vòng lặp huấn luyện. Theo truyền thống, việc điều chỉnh các mạng thần kinh đòi hỏi lan truyền ngược và dữ liệu huấn luyện lặp đi lặp lại, khiến cho việc thao tác trực tiếp trên tham số bởi các tác nhân suy luận trở thành một mô hình hoàn toàn khác biệt.