Cộng đồng Reddit thảo luận về kỳ vọng cho mô hình Kimi K3.5 của Moonshot AI
Một người dùng trên subreddit r/LocalLLaMA đã mở một chủ đề thảo luận nhằm đưa ra dự đoán về các khả năng của phiên bản Kimi K3.5 từ Moonshot AI. Bài viết thể hiện sự hào hứng của cộng đồng mã nguồn mở sau thành công của các phiên bản tiền nhiệm như Kimi K2.5 và K3. Mặc dù chỉ mang tính suy đoán và chưa có thông báo chính thức, thảo luận này thể hiện sự quan tâm lớn của cộng đồng nhà phát triển đối với các mô hình ngôn ngữ lớn từ Trung Quốc. Nó cho thấy sự kỳ vọng của người dùng vào việc cải tiến khả năng học liên tục và xử lý ngữ cảnh dài ở các thế hệ mô hình tiếp theo. Bài viết không chứa thông số kỹ thuật cụ thể, dữ liệu đo kiểm hay thông báo chính thức mà chỉ là một cuộc thảo luận phi chính thức. Người đăng bài nhắc lại giai đoạn học liên tục trên 20-25 nghìn tỷ token của Kimi K2.5 và đặt câu hỏi về khả năng nâng cấp của K3.5 so với K3.
## KIẾN THỨC NỀN
Moonshot AI là công ty trí tuệ nhân tạo có trụ sở tại Bắc Kinh, nổi tiếng với dòng mô hình Kimi bao gồm các phiên bản lớn như Kimi K3 với cửa sổ ngữ cảnh rộng. Học liên tục (continual learning) trong các mô hình ngôn ngữ lớn là kỹ thuật giúp cập nhật mô hình với dữ liệu hoặc nhiệm vụ mới một cách tịnh tiến mà không cần phải huấn luyện lại toàn bộ từ đầu.