~/LLMS/motif-technologies-releases-motif-3-beta-a-314b-parameter-moe-model

Motif-Technologies Ra Mắt Bản Thử Nghiệm Motif 3 Beta, Mô Hình MoE 314 Tỷ Tham Số

Motif-Technologies đã phát hành phiên bản thử nghiệm (beta) của Motif 3, một mô hình Hỗn hợp chuyên gia (MoE) với 314 tỷ tham số. Mô hình này được phát triển trong khuôn khổ dự án phát triển mô hình AI nền tảng độc lập do chính phủ Hàn Quốc tài trợ. Sự kiện này làm nổi bật sáng kiến được tài trợ bởi chính phủ Hàn Quốc nhằm xây dựng các mô hình nền tảng mã nguồn mở cạnh tranh cao, hướng tới thúc đẩy đổi mới sáng tạo AI trong nước và giảm sự phụ thuộc vào công nghệ nước ngoài. Cấu trúc tài trợ mang tính đào thải khốc liệt buộc các công ty tham gia phải liên tục cải tiến và nhanh chóng đưa ra các mô hình hiệu năng cao. Motif 3 Beta sở hữu tổng cộng 314 tỷ tham số với 13 tỷ tham số kích hoạt (314B-A13B), định vị mô hình này cạnh các mô hình MoE khác như DeepSeek V4 Pro và MiniMax-M3. Motif Technologies đã được bổ sung vào dự án vào tháng 2 năm 2026 sau khi Naver Cloud và NC AI bị loại trong đợt đánh giá đầu tiên vào tháng 12 năm 2025.

## KIẾN THỨC NỀN

Dự án Mô hình Nền tảng AI của Hàn Quốc là một sáng kiến của chính phủ với khoản đầu tư 530 tỷ Won (khoảng 0,36 tỷ USD) kéo dài đến năm 2027 nhằm hỗ trợ các công ty công nghệ trong nước phát triển các mô hình AI mã nguồn mở. Hỗn hợp chuyên gia (MoE) là một kiến trúc sử dụng tính toán có điều kiện, chỉ kích hoạt một phần nhỏ tham số (tham số kích hoạt) cho mỗi token để mở rộng quy mô mô hình một cách hiệu quả.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#LLMs#Mixture of Experts#Open Weights#AI Policy#South Korea

$ subscribe --daily