RecGPT-V3: Hệ thống gợi ý đa phương thức trạng thái cho thương mại điện tử quy mô lớn

Các nhà nghiên cứu đã giới thiệu RecGPT-V3, một hệ thống gợi ý đa phương thức lưu trạng thái (stateful) được triển khai trên Taobao, kết hợp khả năng suy luận ngôn ngữ tự nhiên với mã định danh ngữ nghĩa (Semantic IDs) để giải quyết các nút thắt cổ chai về hiệu suất và biểu diễn. Hệ thống này tích hợp một Trung tâm Bộ nhớ (Memory Hub) để duy trì bộ nhớ người dùng liên tục cập nhật và cơ chế Suy luận Ý định Ẩn (Latent Intent Reasoning) để nén các lập luận dài dòng thành các token ẩn gọn nhẹ. Sự phát triển này giải quyết các thách thức quan trọng trong sản xuất khi mở rộng quy mô các hệ thống gợi ý dựa trên LLM, chẳng hạn như độ trễ cao và chi phí tính toán lớn. Bằng cách triển khai hệ thống này trên Taobao, nhóm nghiên cứu đã chứng minh mức tăng trưởng thương mại đáng kể (như tăng 3,97% GMV) trong khi cắt giảm hơn 52% tài nguyên máy chủ tiêu thụ. RecGPT-V3 giảm 55,8% chi phí tính toán mô hình hóa người dùng nhờ vào Memory Hub và giảm chi phí token đầu ra tới 200 lần thông qua cơ chế Suy luận Ý định Ẩn. Mô hình đa phương thức kết hợp này cho phép LLM cùng lúc suy luận trên cả thẻ văn bản và mã định danh ngữ nghĩa (SIDs), tạo ra một kênh băng thông cao để định vị sản phẩm chính xác.