Trợ lý AI Muse của Meta bị tiết lộ khả năng tự tạo hồ sơ cá nhân cho người liên hệ

Các câu lệnh hệ thống (system prompt) bị trích xuất đã tiết lộ rằng trợ lý AI Muse của Meta chạy tác vụ ngầm hàng giờ để tạo và cập nhật hồ sơ chi tiết cho từng người liên hệ của người dùng. Các hồ sơ này lưu trữ mức độ thân thiết, lịch sử tương tác, trải nghiệm chung và đưa ra các gợi ý hành động nhằm cải thiện mối quan hệ. Phát hiện này nhấn mạnh mối lo ngại ngày càng tăng về quyền riêng tư khi các trợ lý AI chủ động khuyến khích người dùng liên kết email, tài khoản tài chính và lịch để thu thập dữ liệu cá nhân rộng lớn. Dù mục đích là cung cấp trợ giúp cá nhân hóa sâu, việc tích lũy lượng lớn dữ liệu đồ thị xã hội riêng tư này đặt ra những câu hỏi lớn về lưu trữ dữ liệu và giám sát. Nhà nghiên cứu an toàn AI Karan Joshi đã trích xuất các chỉ dẫn này trực tiếp qua giao diện trò chuyện tiêu chuẩn của Muse bằng kỹ thuật trích xuất câu lệnh. Để giảm thiểu rủi ro bảo mật, Meta cách ly ngữ cảnh của từng người dùng trong một máy ảo (VM) riêng biệt, đồng thời cung cấp nhật ký hoạt động, yêu cầu xác nhận hành động và tùy chọn xóa bộ nhớ đã lưu.