Phát hành Gemma-4-31B-Humanlike-Chat với phong cách trò chuyện tự nhiên và khả năng gọi công cụ cải tiến
Nhà phát triển LessThanThreeAI đã phát hành Gemma-4-31B-Humanlike-Chat, một bản tinh chỉnh cộng đồng của mô hình Gemma 4 31B từ Google được thiết kế để giao tiếp với phong cách viết tự nhiên như con người. Mô hình này cải thiện đáng kể độ chính xác khi gọi công cụ và các điểm chuẩn tuân thủ hướng dẫn so với mô hình cơ sở chính thức. Bản phát hành này thu hẹp khoảng cách giữa các trợ lý AI cứng nhắc và đối tác trò chuyện tự nhiên giống con người, đồng thời giải quyết các thách thức phổ biến trong việc sử dụng công cụ của mô hình ngôn ngữ lớn chạy cục bộ (local LLM). Nó mang đến một giải pháp thay thế nguồn mở mạnh mẽ cho các nhà phát triển đang tìm kiếm các mô hình có khả năng nhắn tin tự nhiên và xử lý gọi hàm một cách đáng tin cậy. Được huấn luyện bằng quy trình hai bước gồm Tinh chỉnh có giám sát (SFT) và chưng cất trực tiếp (on-policy distillation) với 13.740 hàng dữ liệu, mô hình này đạt tỷ lệ thành công 26% trong các bài kiểm tra đánh giá mù so với văn bản của người thật. Nó có sẵn ở nhiều định dạng lượng tử hóa khác nhau như GGUF, Safetensors và GPTQ-Int4 trên Hugging Face.
## KIẾN THỨC NỀN
Tinh chỉnh (fine-tuning) cho phép các nhà phát triển điều chỉnh các mô hình ngôn ngữ lớn đã được huấn luyện sẵn cho các phong cách trò chuyện hoặc tác vụ cụ thể bằng các tập dữ liệu có mục tiêu. Các bảng xếp hạng như Berkeley Function Calling Leaderboard (BFCL) đánh giá mức độ chính xác của các mô hình khi gọi các công cụ và API bên ngoài, trong khi GGUF là một định dạng tệp di động được tối ưu hóa để chạy suy luận LLM cục bộ một cách hiệu quả.