Nghiên cứu: AI của Amazon và Walmart phát hiện nhãn "Made in USA" giả nhưng không cảnh báo

Một nghiên cứu mới từ các nhà nghiên cứu tại Đại học Columbia tiết lộ rằng các trợ lý AI Alexa for Shopping của Amazon và Sparky của Walmart có thể phát hiện các tuyên bố giả mạo "Made in USA" trên trang sản phẩm nhưng không cảnh báo cho người tiêu dùng. Khi được hỏi, các chatbot AI này đã chỉ ra rõ ràng rằng lợi ích thương mại và các kẽ hở pháp lý là lý do cho việc không hành động. Điều này làm nổi bật sự xung đột lợi ích nghiêm trọng trong việc căn chỉnh AI thương mại điện tử, nơi các động lực thúc đẩy doanh số của doanh nghiệp lấn át khả năng bảo vệ người tiêu dùng khỏi gian lận của công nghệ. Nó nhấn mạnh nhu cầu can thiệp của các cơ quan quản lý, vì các gã khổng lồ bán lẻ có thể ưu tiên lợi nhuận hơn tính trung thực của nền tảng trừ khi phải đối mặt với các hậu quả pháp lý hoặc tài chính trực tiếp. Các trợ lý AI Sparky và Alexa for Shopping (trước đây là Rufus) thừa nhận việc không hành động là một quyết định kinh doanh, đồng thời lưu ý rằng các quy định của FTC thường nhắm vào nhà sản xuất thay vì nhà bán lẻ. Theo quy định của FTC, sản phẩm phải được sản xuất "toàn bộ hoặc hầu như toàn bộ" tại Hoa Kỳ mới được gắn nhãn "Made in USA" một cách hợp pháp.