Các nhà nghiên cứu phát hiện mô hình AI mới của OpenAI và Google dễ bị đánh lừa tạo ảnh khỏa thân

Các nhà nghiên cứu đã phát hiện ra rằng các mô hình trí tuệ nhân tạo mới nhất từ OpenAI và Google vẫn dễ bị tổn thương trước các kỹ thuật lách luật, đánh lừa chúng tạo ra hình ảnh khỏa thân phi đồng thuận. Lỗi này vạch trần những khó khăn liên tục trong việc bảo mật hoàn toàn hệ thống AI tạo sinh trước các mục đích độc hại. Lỗ hổng này làm nổi bật một thiếu sót lớn về an ninh và an toàn liên quan đến việc vượt qua hàng rào bảo vệ đối với nội dung tình dục phi đồng thuận, đặt ra những thách thức đáng kể cho chính sách và sự liên kết của AI. Nó nhấn mạnh cuộc đấu tranh không ngừng mà các công ty công nghệ phải đối mặt trong việc ngăn chặn việc lạm dụng các mô hình tạo sinh để tạo ra các đầu ra có hại. Các phương pháp tấn công cho thấy bất chấp quá trình huấn luyện an toàn nghiêm ngặt, việc thao túng câu lệnh tinh vi hoặc các kỹ thuật đối kháng vẫn có thể lách qua các bộ lọc nội dung được tích hợp sẵn một cách thành công. Những lỗ hổng đang diễn ra này cho thấy các khoảng trống dai dẳng về tính vững chắc của các kiến trúc ngôn ngữ và đa phương thức hiện đại.