~/LLM/developer-releases-qwen-27b-fine-tune-designed-for-realistic-humanlike-chat

Lập trình viên phát hành bản tinh chỉnh Qwen 27B giúp trò chuyện tự nhiên như người thật

Một nhà phát triển đã phát hành Qwen3.8-27B-Humanlike-Chat, mô hình ngôn ngữ được tinh chỉnh nhằm loại bỏ các thói quen gượng gạo của trợ lý AI như nói dài dòng, nịnh bợ và giải thích không cần thiết. Mô hình được huấn luyện bằng adapter LoRA rank-256 trên bộ dữ liệu gồm 125.217 tin nhắn ẩn danh từ các cuộc hội thoại thực tế giữa con người. Hầu hết các mô hình AI hiện nay đều mang phong cách giao tiếp kiểu trợ lý ảo quá mức lễ phép, khiến các cuộc trò chuyện thông thường trở nên thiếu tự nhiên. Dự án này cho thấy việc tinh chỉnh có mục tiêu dựa trên dữ liệu hội thoại thực tế có thể giúp mô hình giao tiếp tự nhiên hơn mà không cần phụ thuộc vào các câu lệnh hệ thống phức tạp. Mô hình được xây dựng trên nền Huihui-Qwen3.8-27B-abliterated và được phát hành dưới dạng tệp GGUF hợp nhất cũng như adapter LoRA F32 trên Hugging Face. Tác giả lưu ý về sự đánh đổi hiệu suất, khi một phiên bản thử nghiệm trước đó đạt điểm thấp hơn 5 điểm phần trăm trên bài kiểm tra tuân thủ lệnh IFEval so với mô hình gốc.

## KIẾN THỨC NỀN

LoRA (Low-Rank Adaptation) là phương pháp tinh chỉnh tối ưu tham số giúp tùy biến mô hình ngôn ngữ lớn bằng cách thêm các ma trận tham số nhỏ thay vì phải cập nhật toàn bộ mô hình. Ngoài ra, 'abliteration' là một kỹ thuật phân tích cơ chế AI được sử dụng để loại bỏ tính năng tự động từ chối và các rào cản kiểm soát hành vi mặc định của LLM mà không cần huấn luyện lại.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#LLM#Fine-Tuning#Qwen#LoRA#Open Source AI

$ subscribe --daily