StepFun ra mắt mô hình MoE Step 5 Preview 600B tham số và kế hoạch mã nguồn mở tháng 10
Công ty khởi nghiệp AI Trung Quốc StepFun đã giới thiệu Step 5 Preview, mô hình dạng Sparse Mixture-of-Experts (MoE) sở hữu 600 tỷ tham số và cửa sổ ngữ cảnh 1 triệu token. Công ty dự kiến sẽ mở mã nguồn hoàn toàn trọng lượng của mô hình này vào ngày 15 tháng 10. Step 5 Preview vươn lên top 3 mô hình mã nguồn mở hàng đầu trên bảng xếp hạng Artificial Analysis Intelligence Index với chi phí mỗi tác vụ chỉ bằng 1/8 so với các mô hình độc quyền như Claude Opus 5. Điều này mang khả năng thực thi các tác vụ AI Agent phức tạp và tự động hóa phần mềm tiên tiến đến gần hơn với cộng đồng mã nguồn mở. Mô hình sử dụng kiến trúc Sparse MoE chỉ kích hoạt 27 tỷ trong tổng số 600 tỷ tham số khi suy luận, đồng thời hỗ trợ xử lý nguyên bản cả văn bản và hình ảnh đa thức. Trong các thử nghiệm thực tế, mô hình chứng minh khả năng tự vận hành các tác vụ phần cứng phức tạp như thiết lập, lập trình và sửa lỗi vi điều khiển ESP32-S3 liên tục trong hơn 3 giờ.
## KIẾN THỨC NỀN
Kiến trúc Sparse Mixture-of-Experts (MoE) cho phép điều hướng đầu vào tới các mạng con chuyên biệt, giúp mở rộng tổng quy mô tham số nhưng vẫn duy trì chi phí tính toán thấp nhờ chỉ kích hoạt một phần tham số cho mỗi token. Trong khi đó, Artificial Analysis Intelligence Index là bảng xếp hạng tổng hợp uy tín chuyên đánh giá năng lực AI qua các bài kiểm tra về toán học, lập trình, suy luận và khả năng xử lý tác vụ Agent.