Mô hình AI Muse Glimmer bị phàn nàn vì từ chối các tác vụ lập trình thông thường

Người dùng báo cáo rằng mô hình Muse Glimmer 30B mới ra mắt có mức độ kiểm duyệt cao, từ chối viết các đoạn mã Python cơ bản để điều khiển chuột vì lý do an toàn. Mô hình này từ chối các yêu cầu trên bằng cách viện dẫn các rủi ro tiềm ẩn liên quan đến clickjacking, tự động hóa trái phép và vượt qua các cảnh báo bảo mật. Điều này làm nổi bật thách thức đang diễn ra trong việc căn chỉnh mô hình (alignment), nơi các rào cản an toàn quá nghiêm ngặt có thể cản trở tính hữu dụng của mô hình AI đối với các tác vụ lập trình hợp pháp và vô hại. Đối với một mô hình được thiết kế cho các tác vụ tự trị (agentic tasks), việc từ chối thực hiện các tương tác hệ thống cơ bản có thể hạn chế khả năng sử dụng thực tế của nó. Sự cố từ chối xảy ra khi một người dùng cố gắng gỡ lỗi một đoạn mã Python sử dụng thư viện chuẩn để di chuyển chuột trên phiên bản lượng tử hóa Unsloth Q8 của mô hình. Mô hình đã tuyên bố rõ ràng rằng họ sẽ không viết các tập lệnh điều khiển chuột "ở dạng trừu tượng" nếu không có thêm ngữ cảnh.