DeepSeek V4.1 Flash Thể Hiển Khả Năng Lập Trình Theo Không Gian Trọng Số
Một thí nghiệm đã kiểm tra khả năng diễn giải trọng số của mạng thần kinh dưới dạng văn bản của DeepSeek V4.1 Flash, cho thấy mô hình này có thể nhận dạng thành công các tác vụ học tăng cường chính xác cho các checkpoint nhỏ. Điều này thể hiện tiềm năng của một mô hình tiên tiến trong lĩnh vực lập trình theo không gian trọng số, mở ra những khả năng mới cho việc phân tích và chỉnh sửa mô hình tự động trực tiếp ở cấp độ tham số. Mô hình đã nhận dạng thành công 3 trong số 4 checkpoint học tăng cường ẩn danh, mỗi checkpoint có 51.000 tham số, tiêu thụ khoảng 1,58 triệu token với nỗ lực suy luận tối đa trong các lần chạy API.
## KIẾN THỨC NỀN
Lập trình theo không gian trọng số là một khái niệm mới nổi, trong đó các mô hình ngôn ngữ lớn phân tích hoặc chỉnh sửa các ma trận trọng số thô của mạng thần kinh để hiểu hoặc cải thiện hành vi của chúng. Trọng số của mạng thần kinh là các giá trị số được học trong quá trình huấn luyện, quyết định tầm quan trọng của các đặc trưng đầu vào và điều khiển cách mạng đưa ra dự đoán.