Phân tích tiến bộ AI mã nguồn mở: Kimi K3 và Qwen 3.8
Những phát triển gần đây trong lĩnh vực AI mã nguồn mở nổi bật với các mô hình khổng lồ như Kimi K3 (2,8 nghìn tỷ tham số) của Moonshot AI và Qwen 3.8 Max (2,4 nghìn tỷ tham số) của Alibaba. Các mô hình này sở hữu khả năng thị giác tự nhiên, cửa sổ ngữ cảnh 1 triệu token và khả năng suy luận nâng cao, giúp thu hẹp đáng kể khoảng cách hiệu suất với các mô hình mã nguồn đóng. Việc phát hành các mô hình mã nguồn mở với hàng nghìn tỷ tham số đang thách thức sự thống trị của các hệ thống AI độc quyền bằng cách cung cấp trí tuệ cấp độ tiên phong tương đương. Sự dân chủ hóa này cho phép các nhà phát triển vận hành, tùy chỉnh và chưng cất các mô hình có năng lực cao cho các quy trình tác vụ tự động (agentic) và lập trình phức tạp. Kimi K3 sử dụng cơ chế Kimi Delta Attention và Attention Residuals để xử lý các tác vụ dài hạn, trong khi Qwen 3.8 Max tự định vị là mô hình đa phương thức chủ lực chỉ đứng sau các mô hình đóng hàng đầu như Fable 5. Cả hai mô hình đều tận dụng kỹ thuật chưng cất tri thức (knowledge distillation) để chuyển giao năng lực sang các mô hình học trò nhỏ hơn, dễ triển khai hơn.
## KIẾN THỨC NỀN
Các mô hình AI mã nguồn mở cung cấp quyền truy cập công khai vào trọng số của chúng, cho phép các nhà nghiên cứu chạy cục bộ, trong khi các mô hình mã nguồn đóng chỉ có thể truy cập qua API. Chưng cất tri thức (knowledge distillation) là một kỹ thuật học máy trong đó một mô hình "học trò" nhỏ hơn, hiệu quả về mặt tính toán được huấn luyện để mô phỏng hành vi và kết quả đầu ra của một mô hình "giáo viên" lớn hơn, phức tạp hơn.