Viện nghiên cứu giả do Israel tài trợ tối ưu hóa nội dung để thao túng AI

Một báo cáo tiết lộ rằng một viện nghiên cứu giả mạo có trụ sở tại Mỹ mang tên Hanover Institute for Public Policy, do chính phủ Israel tài trợ, đã xuất bản các bài viết được tối ưu hóa đặc biệt để các mô hình AI truy xuất và trích dẫn. Hoạt động này đánh dấu một bước chuyển dịch hướng tới việc nhắm mục tiêu vào các công cụ tìm kiếm AI và LLM để phát tán thông tin tuyên truyền. Sự kiện này đánh dấu một phương thức mới trong chiến tranh thông tin, chuyển dịch từ thao túng mạng xã hội truyền thống sang Tối ưu hóa Công cụ Tạo sinh (GEO) nhằm đầu độc cơ sở tri thức của các LLM. Khi người dùng ngày càng phụ thuộc vào AI để tìm kiếm thông tin, các chiến thuật như vậy có thể làm sai lệch một cách hệ thống các câu trả lời do AI tạo ra về các chủ đề địa chính trị. Chiến dịch này nhắm vào các công cụ tìm kiếm tích hợp AI bằng cách cấu trúc nội dung số để xếp hạng cao trong các trích dẫn của LLM, một kỹ thuật được gọi là Tối ưu hóa Công cụ Tạo sinh (GEO). Đồng thời, một viện nghiên cứu giả mạo khác mang tên International Burke Institute được cho là do Nga vận hành để tạo dựng uy tín giả ủng hộ Israel bằng ChatGPT.