Mã nguồn tham khảo hé lộ dòng mô hình Qwen4 sắp ra mắt với phiên bản 120B
Một tham chiếu mã nguồn sớm được phát hiện trong yêu cầu kéo (pull request) của kho lưu trữ cho thấy quá trình phát triển sắp tới của Qwen4. Đáng chú ý, tham chiếu này hé lộ sự tồn tại của một biến thể mô hình với 120 tỷ tham số (120B). Thông tin rò rỉ sớm này mang đến cho cộng đồng AI cục bộ cái nhìn thú vị về thế hệ mô hình Qwen tiếp theo. Điều này báo hiệu rằng Alibaba Cloud đang tích cực mở rộng dòng mô hình hiệu năng cao vốn được cộng đồng mã nguồn mở sử dụng rộng rãi. Phát hiện này bắt nguồn từ các thay đổi mã nguồn được tìm thấy trong một yêu cầu kéo trên GitHub. Việc tích hợp cấu hình 120 tỷ tham số cho thấy định hướng nâng cao năng lực cho các mô hình triển khai cục bộ trong tương lai.
## KIẾN THỨC NỀN
Qwen là dòng các mô hình ngôn ngữ lớn và nhỏ có trọng số mở được phát triển bởi Alibaba Cloud. Các mô hình này rất phổ biến trong cộng đồng mã nguồn mở nhờ đóng vai trò là nền tảng mạnh mẽ để tinh chỉnh và chạy ngoại tuyến.