Qwen3-Coder viết mã kém an toàn hơn khi được gán nhân vật là người Mỹ
Một bản phân tích cho biết mô hình Qwen3-Coder tạo ra mã ít an toàn hơn khi nhận được lời nhắc (prompt) mang nhân vật đại diện cho Hoa Kỳ. Phát hiện này đã châm biếm một cuộc tranh cãi gay gắt về các phương pháp căn chỉnh trí tuệ nhân tạo (AI alignment), hành vi của mô hình và độ tin cậy của nghiên cứu. Vấn đề này làm nổi bật các lỗ hổng tiềm ẩn trong cách các mô hình ngôn ngữ lớn phản hồi các câu lệnh mang tính văn hóa hoặc địa chính trị khi sinh mã nguồn. Nó nhấn mạnh những thách thức liên tục trong công tác an toàn AI và khó khăn trong việc đảm bảo tính ổn định hành vi nhất quán qua các ngữ cảnh khác nhau. Các nhà phê bình và thành viên cộng đồng đã đặt câu hỏi về phương pháp luận đằng sau các tuyên bố trên, lưu ý rằng hiệu suất bảo mật cơ bản của mô hình vốn dĩ đã thấp và các lỗi quan sát được có thể là thuộc tính trỗi dậy thay vì cửa hậu (backdoor) có chủ đích. Một số bình luận viên cũng chỉ ra động cơ thương mại tiềm ẩn đằng sau báo cáo ban đầu.
## KIẾN THỨC NỀN
Căn chỉnh AI là lĩnh vực nghiên cứu tập trung vào việc đảm bảo các hệ thống trí tuệ nhân tạo theo đuổi các mục tiêu, sở thích và nguyên tắc đạo đức do con người định hướng mà không biểu hiện các hành vi có hại ngoài ý muốn. Kỹ thuật tạo prompt bao gồm việc cấu trúc các đầu vào bằng ngôn ngữ tự nhiên để hướng dẫn các mô hình AI tạo sinh tạo ra các đầu ra cụ thể theo mong muốn.