~/ARTIFICIAL I/moonshot-ai-releases-kimi-k3-amid-open-weights-discussions

Moonshot AI Ra Mắt Kimi K3 Giữa Những Thảo Luận Về Mô Hình Open-Weights

Moonshot AI đã phát hành Kimi K3, một mô hình Mixture-of-Experts (MoE) open-weights với kích thước 2,8 nghìn tỷ tham số, hỗ trợ thị giác tự nhiên và cửa sổ ngữ cảnh lên tới 1 triệu token. Sự kiện ra mắt này diễn ra cùng thời điểm với các cuộc thảo luận sôi nổi trong ngành về định nghĩa và tác động của các mô hình AI open-weights. Là mô hình lớp 3T (3 nghìn tỷ tham số) mở đầu tiên trên thế giới, Kimi K3 mở rộng giới hạn của những gì công chúng có thể tiếp cận, mang lại khả năng nâng cao trong lập trình dài hạn và lập luận chuyên sâu. Điều này làm nổi bật xu hướng ngày càng tăng của việc phát hành các mô hình lớn, tiên phong dưới dạng open-weights, thách thức sự thống trị của các mô hình nguồn đóng độc quyền. Kimi K3 sử dụng kỹ thuật huấn luyện nhận biết lượng tử hóa (quantization-aware training) MXFP4 gốc ngay từ giai đoạn tinh chỉnh có giám sát (SFT), kết hợp trọng số MXFP4 với kích hoạt MXFP8 để tương thích phần cứng rộng hơn. Các nhà phát triển có thể truy cập mô hình qua API của Moonshot AI, vốn tương thích với định dạng của OpenAI và Anthropic.

## KIẾN THỨC NỀN

Mô hình AI "open-weights" là mô hình mà các tham số đã qua huấn luyện (trọng số) được chia sẻ công khai, cho phép các nhà phát triển chạy và tùy chỉnh mô hình cục bộ, khác với các API đóng hoàn toàn. Tuy nhiên, "open weights" khác với "open source" (nguồn mở) thực sự, vì dữ liệu huấn luyện, mã nguồn và quy trình xử lý không phải lúc nào cũng được tiết lộ đầy đủ. Moonshot AI là một startup AI nổi bật được biết đến với trợ lý Kimi và sự tập trung vào xử lý ngữ cảnh dài.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Artificial Intelligence#Open Weights#AI Models#Tech News

$ subscribe --daily