Người dùng kiện nền tảng vì bị gắn nhầm cờ nội dung AI
Một người dùng internet tại Trung Quốc đã đưa một nền tảng công nghệ ra tòa sau khi văn bản tự viết nguyên bản của họ bị gắn nhầm cờ là nội dung do AI tạo ra nhưng chưa được dán nhãn. Tòa án Internet Bắc Kinh đãphán quyết có lợi cho người dùng, yêu cầu nền tảng gỡ bỏ hạn chế nội dung và xóa lịch sử vi phạm. Phán quyết này thiết lập một tiền lệ pháp lý quan trọng về tính minh bạch của thuật toán và nghĩa vụ chứng minh trong quản lý nội dung. Nó ngăn chặn các nền tảng ẩn náu sau vỏ bọc bí mật thương mại để biện minh cho các hình phạt tự động do phát hiện AI sai lệch nhắm vào người sáng tạo là con người. Tòa án nhấn mạnh rằng vì nền tảng nắm quyền kiểm soát các công cụ thuật toán và quy trình xem xét, họ phải cung cấp bằng chứng hoặc lời giải thích hợp lý khi xử phạt người dùng. Nền tảng không thể đơn giản từ chối giải thích cơ chế phát hiện của mình bằng cách viện dẫn tính bảo mật thương mại.
## KIẾN THỨC NỀN
Theo các quy định như Biện pháp quản lý nhãn nội dung tổng hợp do AI tạo ra, các nền tảng yêu cầu người dùng phải dán nhãn tài liệu do AI tạo ra để chống lại nội dung tổng hợp chưa được xác thực. Tuy nhiên, các công cụ phát hiện tự động thường gặp khó khăn về độ chính xác, dẫn đến tình trạng báo động giả, trong đó các tác phẩm do con người tạo ra bị xử phạt nhầm.