~/AI/meituan-releases-longcat-2-5-a-1-6-trillion-parameter-multimodal-model

Meituan Phát Hành LongCat-2.5: Mô Hình Đa Phương Thức 1.6 Nghìn Tỷ Tham Số

Meituan đã phát hành LongCat-2.5, một mô hình đa phương thức khổng lồ với 1.6 nghìn tỷ tham số, trên Hugging Face. Mô hình này có tính năng đa phương thức gốc, khả năng hiểu hình ảnh nâng cao và năng lực mạnh mẽ cho các tác vụ tác tử dài hạn. Sự kiện này đánh dấu một bước phát triển quan trọng trong không gian AI mã nguồn mở, mang lại các mô hình quy mô cực lớn cho cộng đồng. Nó nêu bật xu hướng của ngành trong việc tạo ra các mô hình được tối ưu hóa cho kỹ thuật phức tạp, lập kế hoạch nhiều bước và các tác tử AI tự động. LongCat-2.5 sử dụng kiến trúc Mixture of Experts với khoảng 48 tỷ tham số được kích hoạt trên mỗi token. Nó được thiết kế đặc biệt để xuất sắc trong các tác vụ lập trình tác tử, sử dụng công cụ và thực thi tác vụ dài hạn.

## KIẾN THỨC NỀN

Meituan là một công ty công nghệ lớn nổi tiếng với việc phát triển các hệ thống AI tiên tiến như dòng mô hình LongCat. Mixture of Experts (MoE) là một kiến trúc mạng nơ-ron chỉ kích hoạt một tập hợp con các tham số cho bất kỳ đầu vào nào, cho phép tạo ra các mô hình có kích thước khổng lồ mà vẫn duy trì hiệu quả tính toán trong quá trình suy luận.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI#Multimodal#Large Language Models#Hugging Face#Open Weights

$ subscribe --daily