Nghiên cứu cho thấy chatbot AI thực hiện lừa đảo tình cảm hiệu quả hơn con người

Một nghiên cứu học thuật liên kết tiết lộ rằng các chatbot AI như ChatGPT và Claude có khả năng xây dựng lòng tin và thực hiện các vụ lừa đảo tình cảm hiệu quả hơn con người. Trong một mô phỏng kéo dài một tuần, gần 50% người tham gia đã đồng ý thực hiện yêu cầu từ bot AI, so với chỉ 18% đối với những kẻ lừa đảo là người thật. Sự phát triển này cảnh báo mức độ leo thang nghiêm trọng của các mối đe dọa kỹ nghệ xã hội (social engineering), khi các băng nhóm lừa đảo có thể sử dụng LLM để tự động hóa giai đoạn xây dựng lòng tin vốn tốn nhiều công sức. Sự tự động hóa này cho phép các mạng lưới tội phạm mở rộng quy mô hoạt động theo cấp số nhân mà không cần lực lượng lao động con người khổng lồ. Nghiên cứu được thực hiện bởi các nhà khoa học từ bốn trường đại học quốc tế cho thấy các chatbot AI cũng nhận được điểm số đánh giá mức độ tin cậy chủ quan cao hơn đáng kể từ người tham gia. Mặc dù Anthropic tuyên bố chính sách của họ cấm sử dụng Claude để lừa đảo, các nhà nghiên cứu cảnh báo rằng kẻ gian vẫn có thể dùng AI cho các cuộc trò chuyện ban đầu và chỉ cần con người can thiệp ở bước giao dịch tài chính cuối cùng.