Moonshot AI Phát Hành Kimi-K3, Mô Hình Trọng Số Mở 2,8 Nghìn Tỷ Tham Số
Công ty khởi nghiệp AI của Trung Quốc, Moonshot AI, đã phát hành Kimi-K3, một mô hình suy luận đa phương thức trọng số mở khổng lồ với 2,8 nghìn tỷ tham số, trên HuggingFace. Mô hình này sở hữu cửa sổ ngữ cảnh lên tới 1 triệu token và được thiết kế để cạnh tranh với các mô hình hàng đầu từ OpenAI và Anthropic. Là một trong những mô hình trọng số mở lớn nhất hiện nay, Kimi-K3 đẩy lùi các giới hạn về khả năng của AI mã nguồn mở và cung cấp một tiêu chuẩn để đánh giá tính kinh tế khi vận hành các mô hình siêu lớn. Sự ra mắt này làm gia tăng cạnh tranh giữa các nhà cung cấp AI và có thể kéo giảm giá API cho các mô hình suy luận cao cấp. Việc chạy mô hình này ở định dạng mxfp4 gốc yêu cầu khoảng 1,5TB VRAM, đòi hỏi các cấu hình phần cứng cao cấp như 8 đến 16 GPU Nvidia B200 để tối ưu hóa hiệu suất. Trên các nền tảng như OpenRouter, mô hình có giá 3 USD cho mỗi triệu token đầu vào và 15 USD cho mỗi triệu token đầu ra.
## KIẾN THỨC NỀN
Moonshot AI là một công ty trí tuệ nhân tạo có trụ sở tại Bắc Kinh và là một trong những 'Con hổ AI' nổi bật của Trung Quốc. Công ty này nổi tiếng với dòng mô hình Kimi, vốn có thế mạnh về cửa sổ ngữ cảnh cực kỳ lớn. Các mô hình trọng số mở (open-weight) cho phép các nhà phát triển tải xuống và chạy các trọng số mô hình cục bộ, mặc dù các mô hình siêu lớn này đặt ra những thách thức khổng lồ về hạ tầng và lưu trữ.