Phát hiện quá trình phát triển Qwen4 trên GitHub thông qua các pull request
Hoạt động gần đây trên GitHub, bao gồm các pull request và tiền tố commit như `qwen4exp`, cho thấy công việc phát triển cho mô hình ngôn ngữ Qwen4 sắp tới đã chính thức bắt đầu. Những dấu vết ban đầu này đã được phát hiện trong các dự án như RTP-LLM và llama.cpp. Phát hiện sớm này báo hiệu các bản phát hành mô hình lớn sắp tới từ một phòng thí nghiệm AI nổi tiếng, tạo ra sự phấn khích trong cộng đồng LLM cục bộ. Các nhà phát triển và những người đam mê theo dõi sát sao các kho lưu trữ này để đón đầu các thay đổi về kiến trúc và tính năng sắp tới. Các pull request có chứa các tiền tố mã thử nghiệm trỏ đến Qwen4, xuất hiện trong các kho lưu trữ chịu trách nhiệm suy luận LLM hiệu suất cao và thực thi cục bộ. Điều này cho thấy các công cụ trong hệ sinh thái đã bắt đầu chuẩn bị khả năng tương thích cho thế hệ mô hình mới.
## KIẾN THỨC NỀN
llama.cpp là một thư viện phần mềm mã nguồn mở phổ biến cho phép suy luận cục bộ hiệu quả các mô hình ngôn ngữ lớn trên phần cứng phổ thông. RTP-LLM là động cơ tăng tốc suy luận do Nhóm Suy luận Mô hình Nền tảng của Alibaba phát triển để hỗ trợ việc triển khai sẵn sàng cho môi trường sản xuất.