Tinh chỉnh mô hình Qwen 1.5B để tạo lệnh Bash đạt mức GPT-4o

Một nhà phát triển đã tinh chỉnh các mô hình Qwen nhỏ (1,5B và 0,6B tham số) trên 400.000 ví dụ tổng hợp để tạo lệnh Bash cục bộ với hiệu suất tương đương GPT-4o. Dự án đã công khai bộ dữ liệu huấn luyện, trọng số mô hình định dạng GGUF trên Hugging Face và công cụ CLI có tên `ec` trên GitHub. Dự án chứng minh rằng việc tinh chỉnh chuyên biệt và sử dụng dữ liệu tổng hợp có thể giúp các mô hình siêu nhỏ cạnh tranh với các LLM thương mại khổng lồ như GPT-4o trong các tác vụ hẹp. Điều này cho phép các nhà phát triển chạy trợ lý dòng lệnh nhanh chóng, bảo mật và ngoại tuyến trực tiếp trên phần cứng cá nhân mà không tốn chi phí API đám mây. Trọng số mô hình được phát hành dưới định dạng lượng hóa GGUF (`ec-1.5b-gguf` và `ec-0.6b-gguf`), giúp chúng mỏng nhẹ và sẵn sàng triển khai ngay trên phần cứng cục bộ. Tác giả đã tạo bộ dữ liệu 400.000 ví dụ (`dirac-run/ec-training-data`) phần lớn thông qua các đường ống dữ liệu tổng hợp tự động.