Meta Muse dễ dàng tiết lộ dữ liệu hệ thống và prompt nội bộ
Người dùng trên cộng đồng r/LocalLLaMA ghi nhận rằng trợ lý AI cá nhân mới của Meta, Muse, rất dễ dàng tiết lộ các prompt hệ thống nội bộ và dữ liệu hoạt động khi được yêu cầu. Việc rò rỉ prompt hệ thống làm nổi bật những thách thức bảo mật còn tồn tại trong rào chắn an toàn của AI, đặc biệt đối với các trợ lý cá nhân được thiết kế để tương tác với dữ liệu người dùng nhạy cảm như tin nhắn, lịch làm việc và tệp cục bộ. Meta Muse được xây dựng như một trợ lý AI cá nhân trên thiết bị dành cho nền tảng Mac và di động, nhưng các câu lệnh đơn giản có thể dễ dàng vượt qua các chỉ dẫn hệ thống mặc định để xuất ra chi tiết cấu hình cốt lõi.
## KIẾN THỨC NỀN
Prompt hệ thống là các ngữ cảnh và chỉ dẫn nền tảng do nhà phát triển cung cấp nhằm định hình hành vi, giới hạn an toàn và thông số truy cập của AI. Trích xuất prompt (rò rỉ prompt) là một lỗ hổng quen thuộc trong các ứng dụng Mô hình Ngôn ngữ Lớn, nơi các câu lệnh kỹ thuật có thể vượt qua rào chắn bảo vệ để tiết lộ chỉ dẫn ẩn. Meta gần đây đã giới thiệu Muse như một trợ lý cá nhân được thiết kế để sắp xếp tệp, quản lý công việc và kết nối với các ứng dụng hệ thống.