AI Doubao của ByteDance bác bỏ tin đồn khuyên người dùng luộc dép cao su

Đội ngũ AI Doubao của ByteDance đã bác bỏ các video lan truyền trên mạng xã hội cáo buộc chatbot này khuyên người dùng luộc dép bị co lại bằng nước sôi. Trưởng bộ phận quan hệ công chúng làm rõ rằng người sáng tạo video gốc đã thừa nhận cố tình thao túng câu lệnh (prompt) để ép AI đưa ra câu trả lời sai nhằm tạo video câu tương tác. Sự việc này nêu bật việc các mô hình ngôn ngữ lớn (LLM) dễ dàng bị thao túng thông qua kỹ thuật viết câu lệnh để tạo ra thông tin sai lệch nhằm câu tương tác trên mạng xã hội. Nó nhấn mạnh những thách thức mà các nhà phát triển AI phải đối mặt khi các nội dung dàn dựng được chia sẻ mà không có cảnh báo, biến trò đùa thành tin giả. Trong các thử nghiệm thông thường, Doubao cảnh báo rõ ràng người dùng không nên dùng nước sôi hoặc hơi nước để sửa dép bị co. Người sáng tạo ban đầu đã không dán nhãn video là nội dung dàn dựng, khiến nhiều tài khoản và cơ quan truyền thông khác sao chép lại và đưa tin như một sự kiện có thật.