InclusionAI Công Bố Mô Hình Ling-3.0-flash-Sante Tập Trung Vào Y Tế

InclusionAI đã phát hành Ling-3.0-flash-Sante, một mô hình tập trung vào lĩnh vực y tế được xây dựng trên kiến trúc Ling-3.0-flash với cửa sổ ngữ cảnh 256K. Mô hình này có tổng số 124 tỷ tham số, trong đó có 5,1 tỷ tham số hoạt động cho mỗi token. Việc ra mắt này đánh dấu sự chuyển dịch sang các mô hình mã nguồn mở chuyên biệt theo từng lĩnh vực thay vì chỉ đuổi theo các bảng xếp hạng tổng quát, mang lại cho các nhà nghiên cứu quyền truy cập trực tiếp vào các công cụ suy luận y tế. Nó cung cấp một lựa chọn hiệu quả cho các ứng dụng y tế bằng cách sử dụng thiết kế Mixture-of-Experts để giảm chi phí suy luận. Trọng số của mô hình đã có sẵn trên Hugging Face, được thiết kế đặc biệt để hỗ trợ suy luận y tế, nghiên cứu tài liệu và các quy trình làm việc hỗ trợ bằng công cụ. Mô hình duy trì cửa sổ ngữ cảnh lớn 256K trong khi giữ số lượng tham số hoạt động ở mức thấp 5,1B để triển khai hiệu quả.