Swift Qwen 3.8 27B Đạt Hơn 100.000 Lượt Tải Trên Hugging Face
Phòng thí nghiệm AI UkisAI đã thông báo rằng mô hình mã nguồn mở Swift Qwen 3.8 27B của họ đạt hơn 100.000 lượt tải, trở thành bản tinh chỉnh (fine-tune) phổ biến nhất trên Hugging Face. Mô hình áp dụng kỹ thuật tối ưu hóa đặc biệt nhằm phạt các chuỗi suy nghĩ dư thừa, giúp giảm 58,3% lượng token sử dụng và tăng tốc độ suy luận gần gấp 2 lần mà không làm giảm độ chính xác. Các mô hình ngôn ngữ tập trung vào suy luận thường tạo ra chuỗi suy nghĩ (chain-of-thought) nội bộ quá dài, làm tăng mạnh chi phí tính toán và độ trễ phản hồi. Việc chứng minh học tăng cường (RL) có thể huấn luyện các mô hình nhỏ hơn suy nghĩ hiệu quả hơn giúp cung cấp giải pháp thiết thực để xây dựng các mô hình AI mã nguồn mở nhanh hơn và tiết kiệm chi phí hơn. UkisAI đạt được hiệu suất này bằng cách phạt các vòng lặp suy luận dư thừa trong quá trình tinh chỉnh RL, thay vì trực tiếp giới hạn mô hình tạo ra câu trả lời ngắn hơn. Nhóm nghiên cứu đang chuẩn bị phát hành các phiên bản cập nhật như Swift1.5 và bản Flash, bao gồm sửa lỗi và kiểm thử hiệu năng mở rộng trên các nhiệm vụ lập trình và xử lý ngữ cảnh dài.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) hỗ trợ suy luận hiện đại sẽ tạo ra các chuỗi suy nghĩ trung gian trước khi đưa ra câu trả lời cuối cùng, giúp cải thiện độ chính xác ở các bài toán phức tạp. Tuy nhiên, các mô hình mã nguồn mở nhỏ hơn thường rơi vào các vòng lặp suy luận lặp lại hoặc không cần thiết, gây lãng phí bộ nhớ và tài nguyên tính toán. Kỹ thuật tinh chỉnh như học tăng cường (RL) cho phép các nhà phát triển điều chỉnh hành vi của mô hình và cắt giảm các mô hình suy luận dư thừa này.