Spark-X2.6-1.7B: Mô hình ngôn ngữ nhỏ đạt hiệu suất gần bằng mô hình 4B
XHToken đã phát hành Spark-X2.6-1.7B, một mô hình ngôn ngữ nhỏ với 1,7 tỷ tham số đạt hiệu suất tương đương với các mô hình 4B lớn hơn. Mô hình này đạt 59,8 điểm trên SWE Verified và 85,3 điểm trên τ²-bench khi hoạt động ở chế độ tư duy cấp cao. Bản phát hành này thể hiện những cải tiến đáng kể về hiệu suất trong các mô hình ngôn ngữ nhỏ, cho phép thực hiện các tác vụ lập trình và suy luận phức tạp trên các thiết bị bị hạn chế tài nguyên. Điều này cho thấy các kiến trúc nhỏ hơn có thể vượt trội hơn phân khúc của chúng thông qua các kỹ thuật huấn luyện nâng cao và chế độ tư duy. Spark-X2.6-1.7B có số tham số chưa bằng một nửa so với mô hình 4B được đem ra so sánh, nhưng chỉ kém một khoảng cách rất nhỏ trên SWE Verified (59,8 so với 62,8) và τ²-bench (85,3 so với 86,9). Mô hình hiện đã có sẵn công khai trên Hugging Face để các nhà phát triển thử nghiệm và đánh giá.
## KIẾN THỨC NỀN
SWE Verified là một chuẩn đánh giá được trích dẫn rộng rãi nhằm đánh giá các tác nhân lập trình AI dựa trên các vấn đề thực tế trên GitHub từ các kho lưu trữ Python. τ²-bench là một chuẩn đánh giá tác nhân có thẩm quyền do Đại học Princeton và Sierra Research ra mắt nhằm kiểm tra cách các mô hình phối hợp và hướng dẫn người dùng đạt được các mục tiêu chung.