Hiệp hội Người tiêu dùng Trung Quốc cảnh báo không nên phụ thuộc hoàn toàn vào AI
Hiệp hội Người tiêu dùng Trung Quốc đã đưa ra cảnh báo khuyên người tiêu dùng không nên đưa ra các quyết định quan trọng, chẳng hạn như các quyết định liên quan đến giá cả, hợp đồng và tư vấn pháp lý, chỉ dựa vào thông tin do AI tạo ra. Hiệp hội kêu gọi người dùng xác minh thông tin qua các kênh chính thức và nhắc nhở các doanh nghiệp không được trốn tránh trách nhiệm bằng cách đổ lỗi cho lỗi của dịch vụ chăm sóc khách hàng bằng AI. Khi các công cụ AI tạo sinh và chăm sóc khách hàng bằng AI trở nên phổ biến, lời khuyên này nêu bật những rủi ro pháp lý và tài chính ngày càng tăng từ hiện tượng ảo giác AI trong các giao dịch tiêu dùng. Nó khẳng định rằng các doanh nghiệp vẫn phải chịu trách nhiệm pháp lý đối với các cam kết và thông tin do hệ thống AI mà họ triển khai cung cấp. Bản hướng dẫn phân loại AI tiêu dùng thành hai nhóm: AI tạo sinh công cộng (chỉ có giá trị tham khảo) và dịch vụ chăm sóc khách hàng bằng AI do người bán triển khai (có tính ràng buộc pháp lý như một phần dịch vụ kinh doanh). Hiệp hội thúc giục các công ty duy trì hỗ trợ khách hàng bằng người thật và kêu gọi các cơ quan quản lý làm rõ ranh giới trách nhiệm pháp lý đối với AI.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) dễ gặp phải hiện tượng "ảo giác AI" (AI hallucination), trong đó chúng tạo ra thông tin sai lệch hoặc gây hiểu lầm nhưng lại được trình bày một cách thuyết phục như sự thật. Hiện tượng này gây ra rủi ro lớn trong các lĩnh vực quan trọng như tư vấn pháp lý, hợp đồng tài chính và dịch vụ khách hàng, nơi các đầu ra không chính xác của AI có thể dẫn đến tổn thất tài chính hoặc tranh chấp pháp lý.