InternLM Ra Mắt Mô Hình Đa Phương Thức Trọng Số Mở Intern-S2-397B Hỗ Trợ vLLM Ngay Tức Thì

Nhóm phát triển InternLM đã ra mắt Intern-S2-397B, một mô hình mở quy mô lớn với 397 tỷ tham số được thiết kế cho suy luận đa phương thức, lập trình và các tác vụ đại lý khoa học. Bản phát hành này được hỗ trợ ngay từ ngày đầu (Day-0) trên công cụ suy luận vLLM và hiện đã sẵn có trên Hugging Face. Việc phát hành một mô hình trọng số mở 397 tỷ tham số thúc đẩy đáng kể năng lực của cộng đồng nguồn mở trong suy luận khoa học phức tạp và các tác vụ đa phương thức. Khả năng tương thích ngay lập tức với vLLM cho phép các nhà phát triển doanh nghiệp và nghiên cứu triển khai mô hình ở quy mô lớn mà không gặp rào cản kỹ thuật. Intern-S2-397B thuộc bộ sưu tập Intern-S2 trên Hugging Face, được tối ưu hóa đặc biệt cho suy luận nâng cao và quy trình làm việc đại lý khoa học. Sự tích hợp với vLLM tận dụng khả năng xử lý KV-cache và gom cụm hiệu quả để phục vụ suy luận với lưu lượng cao.