Mô hình LLM cục bộ chạy liên tục 63 giờ nhằm giải Giả thuyết Riemann
Một người dùng Reddit đã cho mô hình Qwen 27B lượng hóa 4-bit chạy liên tục trong 63 giờ trên card đồ họa RTX 3090 nhằm thử giải Giả thuyết Riemann. Mặc dù không tìm ra lời giải, mô hình đã tạo ra hơn 50 triệu token ghi lại quá trình suy luận tự chủ và tự sửa lỗi, toàn bộ dữ liệu này đã được phát hành công khai trên Hugging Face. Mặc dù việc dùng mô hình 27B lượng hóa để giải một Bài toán Giải Thiên niên kỷ là thiếu thực tế, bộ dữ liệu 50 triệu token thu được vẫn là nguồn tài nguyên độc đáo để phân tích khả năng duy trì ngữ cảnh dài và tự sửa lỗi của agent AI. Thử nghiệm này thể hiện cả sự kiên trì đáng chú ý của các agent LLM chạy cục bộ lẫn những hạn chế nghiêm trọng của mô hình mã nguồn mở hiện tại đối với suy luận toán học chuyên sâu. Thử nghiệm sử dụng cửa sổ ngữ cảnh 100K và xử lý hơn 50 triệu token mà không bị ảo giác tạo ra lời giải giả hay bị treo ứng dụng. Tác giả ghi nhận mô hình liên tục thử nghiệm các chiến lược mới và tự sửa lỗi lập trình, bộ dữ liệu được chia sẻ bao gồm bộ nhớ nội bộ, lịch sử chạy mã và nhật ký lập kế hoạch chiến lược.
## KIẾN THỨC NỀN
Giả thuyết Riemann là một trong những bài toán toán học thuần túy nổi tiếng nhất chưa có lời giải và thuộc danh sách Bài toán Giải Thiên niên kỷ, tập trung vào các nghiệm của hàm zeta Riemann và mối liên hệ của chúng với số nguyên tố. Trong khi đó, lượng hóa 4-bit là kỹ thuật nén mô hình giúp giảm đáng kể dung lượng VRAM cần thiết, cho phép các mô hình ngôn ngữ lớn như Qwen 27B vận hành cục bộ trên phần cứng cá nhân như NVIDIA RTX 3090.