Ling 3.0 Tiny Dẫn Đầu Bảng Xếp Hạng Mô Hình Nhỏ Trên Benchmark Artificial Analysis
Bản cập nhật benchmark mới từ Artificial Analysis cho thấy mô hình Ling 3.0 Tiny của InclusionAI đang dẫn đầu về hiệu suất trong phân khúc các mô hình ngôn ngữ nhỏ. Mặc dù chỉ kích hoạt 1,3 tỷ tham số cho mỗi token, mô hình này vẫn vượt mặt nhiều LLM quy mô nhỏ khác. Điều này thể hiện năng lực ngày càng tăng của kiến trúc Mixture-of-Experts trong việc mang lại trí tuệ cao trong khi giảm thiểu chi phí tính toán thực tế. Các mô hình nhỏ hiệu quả như vậy cho phép các nhà phát triển vận hành AI mạnh mẽ ngay trên thiết bị cục bộ bị hạn chế tài nguyên với chi phí thấp hơn. Ling 3.0 Tiny là mô hình Mixture-of-Experts (MoE) có tổng cộng 7,9 tỷ tham số do InclusionAI (bộ phận nghiên cứu AI của Ant Group) phát triển. Mô hình này sở hữu cửa sổ ngữ cảnh nguyên bản 256K token, hỗ trợ chuyển đổi chế độ suy luận, prompt caching và tính năng gọi hàm (function calling).
## KIẾN THỨC NỀN
Artificial Analysis là một nền tảng đánh giá độc lập tổng hợp các chỉ số về điểm số trí tuệ, độ trễ, chi phí và tốc độ xử lý của các mô hình ngôn ngữ lớn. Mixture-of-Experts (MoE) là một kiến trúc trong đó chỉ một phần tham số tổng thể (experts) được kích hoạt cho mỗi token đầu vào, giúp mô hình duy trì độ chính xác cao trong khi giảm đáng kể yêu cầu tính toán khi suy luận.