Người trong cuộc tiết lộ chiến lược khác biệt của các phòng lab AI Trung Quốc
Một nhân sự nội bộ tại Ant Group đã chi tiết hóa các định hướng chiến lược khác biệt của các phòng nghiên cứu AI lớn tại Trung Quốc, bác bỏ quan điểm cho rằng họ hoạt động như một khối đồng nhất. Bài viết nhấn mạnh việc Alibaba tập trung vào phân phối, DeepSeek tập trung vào kiến trúc, Moonshot hướng tới tầm nhìn dài hạn, và Ant Group ưu tiên giảm thiểu chi phí vận hành. Phân tích này giúp cộng đồng AI toàn cầu hiểu rằng các mô hình nguồn mở của Trung Quốc được tối ưu hóa cho các mục đích sử dụng khác nhau, từ các vòng lặp agent tiết kiệm chi phí đến việc triển khai nhanh chóng. Nhận biết các hướng tiếp cận riêng biệt này giúp các nhà phát triển lựa chọn và tích hợp mô hình tốt hơn dựa trên nhu cầu hạ tầng và ứng dụng cụ thể của họ. Mô hình Ling-3.0-flash của Ant Group sở hữu tổng cộng 124 tỷ tham số (5,1 tỷ tham số kích hoạt mỗi token), cửa sổ ngữ cảnh 262k và cơ chế chú ý lai KDA/MLA được thiết kế cho các vòng lặp agent giá rẻ. Tuy nhiên, tác giả lưu ý rằng trình tự phát hành "công bố trước" của Ant đã làm chậm trễ việc tích hợp vào các runtime như vLLM và llama.cpp, khác với cách tiếp cận "phát hành trọng số trước" của DeepSeek.
## KIẾN THỨC NỀN
Hệ sinh thái AI của Trung Quốc bao gồm nhiều bên tham gia đa dạng, bao gồm các gã khổng lồ công nghệ như Alibaba và Ant Group (hoạt động độc lập bất chấp các mối liên kết lịch sử), cùng các startup như Moonshot AI, một trong những "AI Tigers" của Trung Quốc. Để giúp các mô hình ngôn ngữ lớn (LLM) dễ tiếp cận hơn, các phòng lab sử dụng kỹ thuật lượng tử hóa (quantization) để giảm kích thước mô hình và tối ưu hóa các cơ chế chú ý như Multi-head Latent Attention (MLA) nhằm hạ thấp chi phí vận hành và suy luận.