OpenAI triệt phá đường dây lừa đảo dùng ChatGPT tại Campuchia

OpenAI đã triệt phá một đường dây hoạt động độc hại có trụ sở tại Campuchia đang sử dụng ChatGPT để thực hiện các hành vi lừa đảo. Các hoạt động này bao gồm lừa đảo đầu tư, lừa đảo tình cảm, gian lận cờ bạc và giả mạo danh tính. Hành động này làm nổi bật mối đe dọa ngày càng tăng từ việc các mô hình ngôn ngữ lớn (LLM) bị lợi dụng cho tội phạm mạng và nhấn mạnh tầm quan trọng của việc thực thi an toàn AI. Điều này cho thấy sự cần thiết của việc các nhà phát triển AI phải tích cực giám sát và ngăn chặn các hành vi sử dụng độc hại trên nền tảng của họ để bảo vệ người dùng. Đường dây lừa đảo này đã tận dụng ChatGPT để tạo ra các nội dung thuyết phục nhằm thao túng tâm lý (social engineering), nhắm vào các nạn nhân trên nhiều nền tảng khác nhau. OpenAI đã can thiệp bằng cách xác định và chấm dứt các tài khoản liên quan đến hoạt động độc hại này.