Meituan Phát Hành LongCat-2.5: Mô Hình AI Đa Phương Thức Nguyên Bản 1.6 Nghìn Tỷ Tham Số
Nhóm LongCat của Meituan vừa phát hành LongCat-2.5, một mô hình AI đa phương thức nguyên bản với 1.6 nghìn tỷ tham số được thiết kế cho các tác vụ tác tử tầm xa và lập trình trực quan. Dựa trên nền tảng của LongCat-2.0, mô hình này được cải tiến với quy trình huấn luyện chuỗi dài mở rộng, học tăng cường quy mô lớn và biểu diễn token thống nhất cho cả tín hiệu văn bản lẫn thị giác. Bản phát hành này thể hiện một bước tiến đáng kể trong kỹ thuật AI quy mô lớn, tập trung mạnh mẽ vào các năng lực đầu cuối để phát triển mã nguồn phức tạp và cộng tác đa khung. Bằng cách giải quyết các tác vụ tác tử tầm xa và lập trình trực quan, nó mở rộng ranh giới về cách AI xử lý các quy trình kỹ thuật kéo dài, nhiều bước. LongCat-2.5 kích hoạt khoảng 48 tỷ tham số cho mỗi token và biểu diễn các tín hiệu thị giác dưới dạng các token rời rạc nhiều cấp độ. Mô hình được hỗ trợ bởi các tối ưu hóa cơ sở hạ tầng bao gồm hỗ trợ phần cứng trong nước cho việc huấn luyện ngữ cảnh dài, suy luận W4A4 và tính nhất quán về số học trong các lượt chạy học tăng cường.
## KIẾN THỨC NỀN
Meituan là một công ty công nghệ lớn của Trung Quốc nổi tiếng với việc vận hành nền tảng dịch vụ địa phương toàn diện bao gồm giao đồ ăn, đặt vé du lịch và bán lẻ tức thời. Trong bối cảnh các mô hình ngôn ngữ lớn, các tác vụ tác tử tầm xa đề cập đến các quy trình phức tạp, nơi một tác tử AI phải tự động lên kế hoạch, sử dụng công cụ và thực hiện các thao tác nhiều bước trong nhiều giờ hoặc nhiều ngày mà không bị mất ngữ cảnh hay thất bại.