NVIDIA Phát Hành Mô Hình Nemotron-Labs Dory 4B BF16 trên Hugging Face

NVIDIA đã phát hành mô hình Nemotron-Labs Dory1.0-4B-BF16 trên Hugging Face, giới thiệu một mô hình ngôn ngữ nhỏ với các tính năng kiến trúc độc đáo. Mô hình này sử dụng cấu trúc lặp, cho phép người dùng điều chỉnh ngân sách tính toán một cách linh hoạt tại thời điểm suy luận. Bản phát hành này cung cấp cho các nhà phát triển và nhà nghiên cứu quyền truy cập vào một mô hình 4 tỷ tham số mới, có hiệu suất cạnh tranh cao trên các chuẩn đánh giá lập trình phức tạp. Nó mang lại khả năng mở rộng tính toán linh hoạt, đại diện cho một sự thay đổi thiết kế đáng chú ý đối với các mô hình ngôn ngữ mã nguồn mở. Mô hình này tái sử dụng các lớp ở giữa nhiều lần, với số vòng lặp suy luận có thể được cấu hình bởi người dùng. NVIDIA báo cáo kết quả đánh giá ấn tượng, chẳng hạn như đạt 61.8 điểm trên chuẩn SWE-bench Verified khi sử dụng bốn vòng lặp.