~/AI HARDWARE/moore-threads-completes-day-0-adaptation-for-3-trillion-parameter-kimi-k3

Moore Threads hoàn tất thích ứng Day-0 cho mô hình Kimi-K3.1 Pro 3 nghìn tỷ tham số

Moore Threads thông báo đã hoàn tất việc thích ứng Day-0 cho mô hình đa phương thức Kimi-K3.1 Pro 3 nghìn tỷ tham số của Moonshot AI trên gia tốc kế AI MTT S5000 và ngăn xếp phần mềm MUSA, thiết lập thành công các luồng suy luận văn bản và hình ảnh. Cột mốc này thể hiện năng lực ngày càng phát triển của các ngăn xếp phần cứng và phần mềm AI nội địa trong việc hỗ trợ các mô hình mở quy mô lớn, tiên tiến ngay khi chúng được phát hành. Điều này đẩy nhanh quá trình tích hợp cơ sở hạ tầng AI nội địa hóa hiệu suất cao với các mô hình ngôn ngữ lớn tiên tiến. Quá trình thích ứng tận dụng SGLang-MUSA, thư viện toán tử chú ý thưa MATE, Triton-MUSA, TileLang-MUSA và trình biên dịch MTCC để xử lý hiệu quả các kiến trúc mô hình phức tạp và trọng số chuyên gia MXFP4. Kimi-K3.1 Pro sở hữu cửa sổ ngữ cảnh 1 triệu token cùng hiệu suất vượt trội trong các tác vụ lập trình và tác nhân.

## KIẾN THỨC NỀN

Moore Threads là một nhà sản xuất GPU Trung Quốc chuyên phát triển các bộ tăng tốc tính toán đồ họa và AI đa chức năng dựa trên ngăn xếp phần mềm MUSA độc quyền. MTT S5000 là một GPU đa năng hiệu suất cao được thiết kế cho các khối lượng công việc đào tạo, tinh chỉnh và suy luận AI quy mô lớn.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Hardware#Large Language Models#GPU#Moore Threads#Moonshot AI

$ subscribe --daily