Đánh giá các mô hình LLM cục bộ và cấp độ nén quantization qua bài test vẽ chim bồ nông SVG

Một nhà phát triển trong cộng đồng đã thử nghiệm nhiều LLM nguồn mở lớn được nén quantization bởi Unsloth trên hệ thống Apple Silicon 128GB bằng câu lệnh tạo SVG "chim bồ nông đi xe đạp" nổi tiếng của Simon Willison. Thử nghiệm cho thấy Qwen3.8 Flash-Next tạo ra các đồ họa vectơ chi tiết, trong khi bản nén 2-bit (~12GB) đủ đáp ứng các tác vụ SVG đơn giản và bản 4-bit duy trì hiệu năng tốt cho việc viết mã phức tạp. Bài kiểm tra này cung cấp hướng dẫn thực tế cho người dùng chạy phần cứng AI cục bộ về mức độ nén tối đa mà không làm hỏng khả năng xuất mã nguồn. Nó chứng minh rằng người dùng vẫn có thể tạo mã đồ họa chất lượng cao trên thiết bị cá nhân mà không cần đến các mô hình nguyên bản tốn bộ nhớ. Trong khi Qwen3.8 Flash-Next và Qwen3.8 27B cho kết quả ấn tượng, DeepSeek V4 Flash lại mang đến kết quả thất vọng ngoài dự kiến. Dữ liệu đối chiếu với các bộ benchmark chuẩn như Terminal-Bench 2.1, GPQA Diamond và IFBench xác nhận rằng mô hình nén 4-bit vẫn duy trì độ chính xác cao, trong khi phiên bản 1-bit bị suy giảm hiệu năng nghiêm trọng.