Cập nhật mô hình mở: Motif-3, GLM-5.3, Hy4-preview và xu hướng bản quyền AI
Hệ sinh thái AI trọng số mở vừa tiếp tục mở rộng với các đợt phát hành đáng chú ý như Motif-3 (mô hình MoE 314 tỷ tham số), GLM-5.3 chuyên về suy luận từ Zhipu AI, và Hy4-preview 770 tỷ tham số của Tencent. Cùng với các trọng số mới này, cộng đồng cũng đang tích cực hoàn thiện các khung bản quyền cho mô hình AI mở. Sự xuất hiện của các mô hình MoE trọng số mở quy mô lớn cung cấp cho các nhà phát triển và nghiên cứu những giải pháp thay thế mạnh mẽ cho các LLM độc quyền. Việc làm rõ và phát triển các giấy phép mô hình mở cũng đóng vai trò quyết định trong việc định hình quy định pháp lý cho việc triển khai thương mại và hợp tác cộng đồng. Hy4-preview của Tencent sở hữu 770 tỷ tham số tổng với 49 tỷ tham số kích hoạt mỗi token qua 78 lớp và hỗ trợ cửa sổ ngữ cảnh hơn 1 triệu token, trong khi Motif-3 đạt 314 tỷ tham số với 13,2 tỷ tham số kích hoạt mỗi token. GLM-5.3 của Zhipu AI tập trung vào kỹ thuật phần mềm phức tạp và các tác vụ đại lý dài hạn với hiệu suất token tối ưu cùng cửa sổ ngữ cảnh 1 triệu token.
## KIẾN THỨC NỀN
Các mô hình trọng số mở (open-weight) cho phép nhà phát triển tải xuống và chạy các tham số mạng thần kinh cục bộ hoặc trên hạ tầng riêng thay vì phụ thuộc vào các API đóng. Kiến trúc Trộn lẫn chuyên gia (Mixture-of-Experts - MoE) giúp mở rộng quy mô tham số tổng của mô hình nhưng vẫn giữ chi phí tính toán hợp lý bằng cách chỉ định tuyến mỗi token đến một phần nhỏ các chuyên gia khi suy luận.