Moonshot AI tung video hé lộ mẫu mô hình Kimi K3.1 sắp ra mắt
Moonshot AI vừa phát hành một đoạn video hé lộ dài 24 giây, giới thiệu mô hình Kimi K3.1 sắp ra mắt đang chạy trên giao diện Kimi Code. Động thái này diễn ra sau các rò rỉ từ nhà phát triển và các cam kết mã nguồn trong các framework mã nguồn mở cho thấy các cấp độ cường độ suy luận được mở rộng. Bản cập nhật này nhấn mạnh sự tập trung liên tục của Moonshot AI vào quy trình làm việc của nhà phát triển, hỗ trợ lập trình và khả năng kiểm soát suy luận tinh tế hơn. Điều này báo hiệu hệ sinh thái đang chuẩn bị cho một phiên bản chủ lực mới tiếp theo sau việc mô hình K3 được áp dụng rộng rãi trong các doanh nghiệp. Phiên bản K3.1 mở rộng các mức cường độ suy luận từ ba mức (thấp, cao, tối đa) lên bốn mức bằng cách bổ sung thêm mức trung bình mới, trong khi vẫn duy trì cửa sổ ngữ cảnh 1 triệu token. Các cam kết mã nguồn cũng hé lộ các thử nghiệm tương thích đối với bộ mã hóa trò chuyện, gọi công cụ và đầu vào hình ảnh.
## KIẾN THỨC NỀN
Moonshot AI là một công ty trí tuệ nhân tạo của Trung Quốc nổi tiếng với việc phát triển chatbot Kimi và các mô hình ngôn ngữ lớn có khả năng xử lý bối cảnh cực dài. SGLang là một framework mã nguồn mở được thiết kế để phục vụ suy luận thông lượng cao và độ trễ thấp cho các mô hình ngôn ngữ lớn và mô hình đa phương thức.