~/LLM/motif-technologies-releases-motif-3-a-314b-mixture-of-experts-model

Motif-Technologies Ra Mắt Motif-3, Mô Hình Mixture-of-Experts 314 Tỷ Tham Số

Motif-Technologies đã chính thức công bố Motif-3, một mô hình Mixture-of-Experts (MoE) với 314 tỷ tham số tổng và 13 tỷ tham số hoạt động. Được phát triển trong khuôn khổ dự án "Dokpamo" của Hàn Quốc, mô hình này được báo cáo đạt điểm số cạnh tranh với các mô hình lớn hơn như Qwen-3.7-Max và DeepSeek-v4-Pro trên các bài kiểm tra về tác nhân (agentic) và lập trình. Sự ra mắt này làm nổi bật khả năng cạnh tranh ngày càng tăng của Hàn Quốc trong bối cảnh AI toàn cầu thông qua các sáng kiến AI có chủ quyền do nhà nước hỗ trợ. Nó chứng minh rằng các mô hình MoE nhỏ hơn, được tối ưu hóa tốt có thể cạnh tranh với các mô hình hàng nghìn tỷ tham số trong các tác vụ suy luận phức tạp và tác nhân AI. Motif-3 đạt 38,7 điểm trên GDPVal v2 và 76,2% trên SWE-Bench Verified, xếp ngang hàng hoặc vượt trội hơn các mô hình lớn hơn nhiều như GLM-5.1 và Kimi-K2.6. Tuy nhiên, thông báo hiện tại vẫn thiếu tài liệu kỹ thuật chi tiết và sự xác thực độc lập từ cộng đồng.

## KIẾN THỨC NỀN

"Dokpamo" (독파모) là sáng kiến quốc gia của Hàn Quốc nhằm xây dựng các mô hình AI nền tảng độc lập, có chủ quyền để giảm sự phụ thuộc vào các gã khổng lồ công nghệ nước ngoài. Mixture-of-Experts (MoE) là một kiến trúc AI chỉ kích hoạt một phần nhỏ các tham số (tham số hoạt động) cho mỗi đầu vào, giúp nâng cao hiệu suất so với các mô hình dạng đặc (dense models).

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#LLM#Mixture of Experts#AI Benchmarks#Machine Learning

$ subscribe --daily

Motif-Technologies Ra Mắt Motif-3, Mô Hình Mixture-of-Experts 314 Tỷ Tham Số | Daily News