Chủ tài khoản tự truyền thông bị bắt tại Thượng Hải vì dùng AI tạo tin đồn tống tiền doanh nghiệp

Cảnh sát Thượng Hải đã bắt giữ Wang, người vận hành tài khoản tự truyền thông, vì dùng AI tạo sinh sản xuất hơn mười bài viết bịa đặt bôi nhọ một công ty công nghệ vừa gọi vốn nhằm tống tiền 2,3 triệu nhân dân tệ. Nghi phạm ban đầu đòi 300.000 nhân dân tệ để xóa bài và sau đó đòi thêm 2 triệu nhân dân tệ dưới danh nghĩa phí tư vấn. Vụ việc minh họa cách các công cụ AI tạo sinh dễ tiếp cận đang bị biến thành vũ khí tống tiền doanh nghiệp và phát tán thông tin sai lệch có mục đích. Điều này cho thấy thách thức ngày càng lớn đối với các cơ quan quản lý và lực lượng chức năng trong việc chống bôi nhọ tự động làm ảnh hưởng đến hoạt động kinh doanh thực tế. Cảnh sát xác nhận toàn bộ nội dung về tình hình tài chính và sự phát triển của công ty nạn nhân đều do AI bịa đặt, do nghi phạm không hề có chuyên môn trong lĩnh vực này. Việc bắt giữ diễn ra sau khi các bài viết sai sự thật gây lo ngại nghiêm trọng cho các nhà đầu tư và đối tác, khiến doanh nghiệp phải trình báo cơ quan công an.