OpenAI sẽ mặc định gắn watermark lên văn bản ChatGPT tại EU
OpenAI đang tự động bật tính năng gắn watermark lên văn bản đầu ra cho người dùng ChatGPT tại Liên minh Châu Âu. Cài đặt này nhắm riêng vào thị trường EU nhằm đáp ứng các yêu cầu về tính minh bạch của khu vực. Động thái này nhấn mạnh việc các quy định pháp lý của Châu Âu, như Đạo luật AI của EU, đang thúc ép các công ty AI phải triển khai những biện pháp tuân thủ kỹ thuật ngay cả khi công nghệ nền tảng còn nhiều hạn chế. Điều này cho thấy sự khác biệt ngày càng rõ rệt về trải nghiệm sản phẩm mặc định giữa EU và phần còn lại của thế giới. Dù được triển khai nhằm đáp ứng nghĩa vụ quản lý, các kỹ thuật gắn watermark cho văn bản LLM hiện tại vẫn chưa thực sự đáng tin cậy về mặt kỹ thuật và có thể dễ dàng bị qua mặt bằng cách diễn đạt lại hoặc chỉnh sửa. Do đó, OpenAI chỉ áp dụng chính sách mặc định này riêng cho khu vực EU thay vì phát hành trên toàn cầu.
## KIẾN THỨC NỀN
Điều 50 của Đạo luật AI của EU đưa ra các nghĩa vụ về tính minh bạch đối với các nhà cung cấp hệ thống AI, yêu cầu đánh dấu nội dung tổng hợp để người dùng có thể nhận biết đó là sản phẩm do AI tạo ra. Công nghệ gắn watermark văn bản trong mô hình ngôn ngữ lớn (LLM) hoạt động bằng cách điều chỉnh nhẹ phân phối xác suất của các từ (token) được tạo ra, tạo nên một chữ ký thống kê ẩn để các thuật toán phát hiện có thể truy vết mà không làm ảnh hưởng đến khả năng đọc của văn bản.