Anthropic cập nhật system prompt của Claude nhằm chặn nghiêm ngặt lời bài hát có bản quyền
Simon Willison đã phân tích bản cập nhật system prompt mới của Anthropic dành cho các mô hình Claude, tiết lộ rào chắn mới nghiêm ngặt cấm AI sao chép lời bài hát, bài thơ hoặc các đoạn sách có bản quyền. System prompt mới chỉ định rõ Claude phải từ chối các yêu cầu này ngay cả khi người dùng dán từng dòng văn bản hoặc tự nhận đó là tác phẩm của mình. Thay đổi này cho thấy các phòng thí nghiệm AI đang tích cực thắt chặt kỹ thuật system prompt để tránh rủi ro vi phạm bản quyền và rắc rối pháp lý từ các nhà xuất bản âm nhạc cũng như tác giả. Nó cũng thể hiện tính minh bạch độc đáo của Anthropic trong việc công khai và duy trì lịch sử phiên bản của các system prompt chính thức. Rào chắn này cho phép trích dẫn các tác phẩm xuất bản trước năm 1929, nhưng yêu cầu Claude tự dựa vào kiến thức của mô hình về ngày xuất bản thay vì tin theo lời khẳng định của người dùng. Ngoài ra, một khi Claude đã từ chối một yêu cầu vi phạm bản quyền trong phiên trò chuyện, mô hình được lập trình để tiếp tục từ chối các biến thể thu nhỏ hoặc diễn đạt lại của yêu cầu đó.
## KIẾN THỨC NỀN
Trong các mô hình ngôn ngữ lớn (LLM), system prompt đóng vai trò như tập hợp hướng dẫn nền tảng cấp cao nhất, quy định vai trò, giới hạn hành vi và chính sách an toàn của AI trước khi tương tác với người dùng. Các nhà phát triển AI đang chịu áp lực pháp lý và các vụ kiện bản quyền ngày càng tăng do việc tạo lại các tác phẩm văn học và âm nhạc được bảo hộ. Anthropic công khai các system prompt dành cho người dùng trên trang tài liệu của mình, cho phép các nhà phát triển theo dõi những thay đổi theo thời gian.