~/AI/sensenova-loop-9b-preview-model-released-with-unique-architecture

Phát hành mô hình SenseNova-Loop-9B-Preview với kiến trúc độc đáo

SenseNova đã phát hành SenseNova-Loop-9B-Preview, một mô hình đa phương thức mã nguồn mở có 9 tỷ tham số, sở hữu cấu trúc khối lặp với kiến trúc mHC hai luồng và khả năng dự đoán nhiều token. Dù có kích thước nhỏ hơn, mô hình này được báo cáo là đạt hiệu suất tổng thể ngang ngửa với các mô hình lớn hơn nhiều như Qwen 3.5 27B, trở thành lựa chọn hấp dẫn cho việc triển khai cục bộ hiệu quả và quy trình làm việc của tác nhân. Mặc dù mô hình cơ sở có 9 tỷ tham số, lượng tham số trong quá trình suy luận đạt khoảng 15 tỷ do tính năng dự đoán nhiều token và thiết kế khối lặp, điều này có thể ảnh hưởng đến tốc độ suy luận.

## KIẾN THỨC NỀN

Dự đoán nhiều token (MTP) là một kỹ thuật tiên tiến trong đó mô hình ngôn ngữ được huấn luyện để dự đoán đồng thời nhiều token trong tương lai thay vì chỉ một token tiếp theo, giúp tăng tốc đáng kể tốc độ tạo văn bản trong quá trình suy luận. Mô hình trọng số mở là các mô hình AI có trọng số và chi tiết kỹ thuật được chia sẻ công khai cho cộng đồng nghiên cứu và phát triển để tùy chỉnh và triển khai.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI#LLM#Open Source Models#LocalLLaMA#Model Architecture

$ subscribe --daily