InclusionAI Phát Hành Trọng Số Và Mô Hình Cơ Sở Ling-3.1-flash-1019

InclusionAI đã phát hành các trọng số mã nguồn mở cho Ling-3.1-flash-1019 trên Hugging Face, bao gồm cả phiên bản trò chuyện và mô hình cơ sở Ling-3.1-flash-base ở định dạng BF16. Bản cập nhật này tương ứng với hiệu suất benchmark được cải thiện, chẳng hạn như tăng lên 44 trên AA Intelligence Index v4.3.2 và 68% trên AutomationBench-AA. Bản phát hành này cung cấp cho cộng đồng mô hình ngôn ngữ lớn cục bộ và AI mã nguồn mở một mô hình Hỗn hợp Chuyên gia quy mô lớn với cửa sổ ngữ cảnh 1 triệu token. Hơn nữa, việc cung cấp mô hình cơ sở ở định dạng BF16 cho phép các nhà nghiên cứu và nhà phát triển tự tiến hành quá trình huấn luyện tiếp theo thay vì chỉ dựa vào các mô hình trò chuyện đã hoàn thiện sẵn. Mô hình giữ nguyên tổng kích thước 560 tỷ tham số với 25 tỷ tham số hoạt động và cửa sổ ngữ cảnh 1 triệu token. Người dùng cần lưu ý rằng ví dụ phục vụ bằng SGLang trong tệp README của phiên bản 1019 yêu cầu cập nhật đường dẫn mô hình thành inclusionAI/Ling-3.1-flash-1019.