Khi AI dịch vụ ngày càng giống người, người dùng lại điều chỉnh để giống máy

Một nghiên cứu đăng trên tạp chí AI & SOCIETY bởi các nhà nghiên cứu Châu Âu đã đưa ra khái niệm "robotoid humanness" (tính người kiểu robot), chỉ ra rằng người dùng khi tương tác với AI dịch vụ khách hàng ngày càng vô thức biến đổi ngôn ngữ và hành vi của mình theo logic của máy tính. Nghiên cứu cho thấy khi AI trở nên biết thấu hiểu và cá nhân hóa hơn, con người lại tự điều chỉnh cách giao tiếp để nhận được phản hồi tối ưu từ thuật toán. Nghiên cứu này hé lộ cách AI mang tính nhân hình có thể âm thầm tái định hình thói quen giao tiếp và nhận thức bản thân của con người trong các dịch vụ như y tế và bán lẻ. Nó đưa ra cảnh báo cho các nhà thiết kế rằng việc làm cho AI ngày càng giống người có thể vô tình buộc người dùng phải tự điều chỉnh để phù hợp với khuôn mẫu của máy tính. Các nhà nghiên cứu đã phác thảo cơ chế phản chiếu ba giai đoạn gồm: bước vào "thực tế xã hội tổng hợp", trải qua "thu nhận bản dạng bằng tính toán" qua mô hình dự đoán, và thực hiện "tự điều chỉnh thích ứng" thông qua các vòng lặp phản hồi. Động lực này được phân tích trên bốn lĩnh vực dịch vụ chính là bán lẻ, nhà hàng - khách sạn, du lịch và y tế.