OpenAI ra mắt công nghệ đóng dấu văn bản ẩn cho ChatGPT và Codex tại EU
OpenAI thông báo triển khai công nghệ đóng dấu bản quyền văn bản thống kê ẩn có tên 'textGrain' cho các đầu ra văn bản của ChatGPT và Codex tại Liên minh Châu Âu. Công nghệ này nhúng các tín hiệu thống kê tinh vi trong quá trình chọn từ để giúp công cụ phát hiện xác minh văn bản do AI tạo ra nhằm tuân thủ Đạo luật AI của EU. Đây là một trong những biện pháp tuân thủ kỹ thuật lớn đầu tiên được triển khai bởi một công ty AI hàng đầu nhằm đáp ứng các yêu cầu về tính minh bạch của Đạo luật AI EU. Bước đi này tạo ra hình mẫu về cách các nhà phát triển AI tạo sinh chứng minh nguồn gốc văn bản mà không ảnh hưởng đến khả năng đọc hay trải nghiệm người dùng. Tính năng đóng dấu này sẽ không bật mặc định trên toàn cầu, mặc dù khách hàng sử dụng API trên thế giới có thể chủ động chọn tham gia ngay lập tức. Ngoài ra, OpenAI đang cấp quyền truy cập công cụ phát hiện cho các nhà nghiên cứu được phê duyệt theo từng trường hợp, đảm bảo công cụ chỉ nhận diện dấu ẩn mà không tiết lộ danh tính người dùng hay nội dung câu lệnh.
## KIẾN THỨC NỀN
Đóng dấu bản quyền văn bản bằng phương pháp thống kê là kỹ thuật nhúng các tín hiệu toán học tinh vi vào quá trình chọn từ (token) của mô hình ngôn ngữ lớn mà không làm giảm độ mượt mà hay ý nghĩa của văn bản. Theo Đạo luật AI của EU, các nhà cung cấp hệ thống AI tạo sinh phải đảm bảo nội dung do AI tạo ra được đánh dấu dưới dạng máy có thể đọc được nhằm giảm thiểu rủi ro như tin giả và gian lận học thuật.