Thử nghiệm hiệu năng cục bộ so sánh Muse Glimmer 30B, Qwen 3.6 27B và Gemma 4 31B
Một thử nghiệm hiệu năng (benchmark) cục bộ mới đã so sánh hiệu suất, hiệu quả xử lý yêu cầu và khả năng lập trình của một số LLM gần đây, bao gồm Muse Glimmer 30B, Qwen 3.6 27B và Gemma 4 31B. Thử nghiệm này làm nổi bật cách các mô hình hoạt động trong các kịch bản triển khai cục bộ. Khi các nhà phát triển ngày càng triển khai nhiều mô hình ngôn ngữ lớn cục bộ trên phần cứng tiêu dùng, các thử nghiệm hiệu năng thực tế sẽ giúp họ lựa chọn mô hình phù hợp dựa trên hiệu quả, mức tiêu thụ tài nguyên và hiệu suất cho từng tác vụ cụ thể. Thử nghiệm cho thấy Muse Glimmer 30B yêu cầu số lượng yêu cầu (requests) nhiều hơn đáng kể để hoàn thành tác vụ—gần gấp đôi so với Qwen và gấp ba lần so với Gemma—mặc dù nó vẫn đạt điểm số cuối cùng khá tốt dù không phải là mô hình chuyên về lập trình.
## KIẾN THỨC NỀN
Các LLM cục bộ là các mô hình AI được tối ưu hóa để chạy trực tiếp trên phần cứng của người dùng thay vì máy chủ đám mây, giúp mang lại sự riêng tư và khả năng truy cập ngoại tuyến. Muse Glimmer 30B là một mô hình đa phương thức hướng tác nhân (agentic) sở hữu bộ giải mã văn bản và bộ mã hóa thị giác, trong khi Gemma 4 31B là mô hình mở cấp doanh nghiệp của Google với ngữ cảnh lớn lên tới 256K token.