Tencent ra mắt mô hình mã nguồn mở Hunyuan Hy4 preview với 770 tỷ tham số
Tencent đã chính thức phát hành phiên bản thử nghiệm Hunyuan Hy4 (Hy4 preview), một mô hình mã nguồn mở sở hữu tổng cộng 770 tỷ tham số, 49 tỷ tham số kích hoạt và cửa sổ ngữ cảnh lên tới 1 triệu token. Mô hình này hiện đã có sẵn trên các nền tảng như HuggingFace, GitHub và được tích hợp vào các công cụ năng suất của Tencent như CodeBuddy. Sự kiện ra mắt này củng cố vị thế của Tencent trong bối cảnh LLM mã nguồn mở, mang lại hiệu năng cạnh tranh trực tiếp với các mô hình hàng đầu khác của Trung Quốc như GLM-5.3 và Kimi K3. Ngoài ra, sự kết hợp giữa mô hình này và tác tử nghiên cứu Hyra chứng minh tính ứng dụng thực tiễn của LLM trong việc giải quyết các bài toán khoa học và toán học phức tạp lâu đời. Trong các thử nghiệm mù đối với 203 tác vụ kỹ thuật, Hy4 preview đạt điểm trung bình 2,99/4,00, vượt trội hơn một chút so với GLM-5.3 và Kimi K3. Tuy nhiên, Tencent lưu ý rằng vì đây là phiên bản thử nghiệm sớm, mô hình vẫn còn một số hạn chế như xu hướng tự xác thực quá mức và thời gian suy nghĩ kéo dài đối với các tác vụ phức tạp.
## KIẾN THỨC NỀN
Kiến trúc Hỗn hợp Chuyên gia (MoE) sử dụng cơ chế định tuyến để chỉ kích hoạt một phần nhỏ tham số (tham số kích hoạt) cho mỗi token, giúp giảm chi phí tính toán khi suy luận trong khi vẫn duy trì tổng dung lượng mô hình lớn. Hyra (Hunyuan Research Agent) là tác tử tự cải tiến đệ quy của Tencent được thiết kế cho các nhiệm vụ nghiên cứu và kỹ thuật định hướng hiệu năng.