LLM đọc và ghi trọng số mạng thần kinh thông qua Lập trình không gian trọng số
Latent Space đã khám phá Lập trình không gian trọng số (Weight Space Programming), một kỹ thuật trong đó các mô hình ngôn ngữ lớn tiên tiến có thể trực tiếp đọc và chỉnh sửa trọng số thô của mạng thần kinh — chẳng hạn như chỉnh sửa trọng số của Qwen để giảm thiểu các vòng lặp suy luận — chỉ dựa trên các hướng dẫn bằng ngôn ngữ tự nhiên. Phương pháp này bỏ qua các vòng lặp tự nghiên cứu (autoresearch) và hạ gradient truyền thống, đại diện cho một mô hình mới lạ nơi các mô hình AI có thể trực tiếp kiểm tra và vá các mạng thần kinh khác. Điều này mở ra những khả năng mới cho việc tối ưu hóa bằng tác nhân và tự động sửa lỗi ở cấp độ trọng số. Bài phân tích kỹ thuật chuyên sâu này đề cập đến các nguyên mẫu tác nhân tiên tiến, khả năng thao tác trọng số trực tiếp (chẳng hạn như sửa đổi một phần trọng số của Qwen3) và các khung đánh giá như bộ chuẩn mực GDPx.
## KIẾN THỨC NỀN
Theo truyền thống, việc sửa đổi hành vi của mạng thần kinh đòi hỏi quá trình tinh chỉnh thông qua hạ gradient sử dụng lan truyền ngược trên dữ liệu huấn luyện. Lập trình không gian trọng số bỏ qua giai đoạn huấn luyện này bằng cách cho phép LLM coi trọng số của mô hình như dữ liệu, trực tiếp đọc và ghi các tham số số học trong không gian trọng số để thay đổi hành vi mô hình.