Hai cư dân mạng bị xử phạt vì dùng AI tạo video tai nạn xe Xiaomi giả mạo

Xiaomi thông báo cảnh sát Trung Quốc đã xử phạt hai cư dân mạng vì sử dụng AI tạo sinh để tạo các video tai nạn xe giả mạo nhằm bôi nhọ sản phẩm ô tô và ban lãnh đạo của hãng. Một người đã bị tạm giữ hành chính 7 ngày, trong khi người còn lại bị phạt tiền hành chính, và cả hai đều bị buộc phải xóa bỏ toàn bộ các liên kết vi phạm. Vụ việc này làm nổi bật các hậu quả pháp lý ngày càng nghiêm trọng và các biện pháp thực thi pháp luật đối với việc lạm dụng AI tạo sinh để lan truyền thông tin sai lệch và hủy hoại uy tín của doanh nghiệp. Nó nhấn mạnh những thách thức mà các công ty phải đối mặt khi các công cụ AI giúp việc tạo ra nội dung bôi nhọ giả mạo nhưng có độ chân thực cao trở nên dễ dàng hơn. Hành động của cảnh sát diễn ra sau khi Xiaomi gửi đơn khiếu nại chính thức liên quan đến các video nhắm vào bộ phận ô tô của họ. Tổng giám đốc bộ phận Quan hệ công chúng của Xiaomi, ông Từ Khiết Vân, cảnh báo rằng dù AI là một công nghệ hữu ích, việc sử dụng nó để bịa đặt tin đồn chắc chắn sẽ phải trả giá trước pháp luật.