Kimi K3 vá lỗi bảo mật bị các AI khác từ chối do rào cản an toàn

Mô hình AI Kimi K3 đã vá thành công 15 lỗ hổng bảo mật nghiêm trọng mà các mô hình khác như Codex và Fable từ chối xử lý do các rào cản an toàn nghiêm ngặt. Sự việc này đã làm nổi bật những lo ngại từ các nhà lãnh đạo ngành, bao gồm cả CEO của Hugging Face, về việc các hạn chế này gây cản trở cho an ninh mạng phòng thủ. Việc căn chỉnh quá mức (over-alignment) trong các mô hình AI có thể vô tình tước đi công cụ của các nhà phòng thủ an ninh mạng, ngăn cản họ vá lỗ hổng trong khi kẻ tấn công vẫn tiếp tục vượt qua các rào cản này. Điều này làm nổi bật nhu cầu cấp thiết trong việc cân bằng giữa các giao thức an toàn AI và yêu cầu thực tế của các hoạt động bảo mật phòng thủ. Trong khi các mô hình như Codex và Fable chặn các yêu cầu phân tích mã nguồn do "rào cản an ninh mạng" gắn cờ chúng là có khả năng gây hại, Kimi K3 đã xử lý và giải quyết các sự cố này. Hugging Face cũng báo cáo đã gặp phải những khó khăn tương tự trong một sự cố bảo mật gần đây, nhấn mạnh rủi ro khi những người phòng thủ bị hạn chế trong khi đang đối mặt với mối đe dọa.