Liquid AI ra mắt dòng mô hình LFM3 với kiến trúc ba lai mới lạ
Phòng thí nghiệm trí tuệ nhân tạo Liquid AI đã phát hành dòng mô hình LFM3, bao gồm các mô hình văn bản, thị giác, âm thanh, toàn diện (omni) và ra quyết định được xây dựng trên nền tảng 1.7B dùng chung, được tiền huấn luyện trên 22T token. Dòng sản phẩm ban đầu bao gồm LFM-1.7B, LFM3-VL-2B, d1-2B, LFM3-Audio, LFM3-Omni-2B và d1-Omni-2B. Bản phát hành này đánh dấu một cột mốc quan trọng trong việc phát triển AI hiệu quả bằng cách cung cấp hiệu suất cao trên nhiều phương thức khác nhau trong khi sử dụng ít tham số hơn và tốn ít tài nguyên hơn. Điều này giúp các nhà phát triển dễ dàng chạy và tinh chỉnh các mô hình trí tuệ chuyên biệt trên phần cứng bị hạn chế tài nguyên. Mô hình LFM-1.7B sở hữu cửa sổ ngữ cảnh 256K và vượt trội hơn thế hệ trước LFM2.5-2.6B mặc dù sử dụng ít hơn 35% tham số. Tất cả các mô hình trong dòng LFM3 đều dựa trên kiến trúc lớp ba lai mới lạ và có thể được tinh chỉnh trên một GPU duy nhất.
## KIẾN THỨC NỀN
Liquid AI là một công ty do MIT sáng lập, chuyên xây dựng các Mô hình Nền tảng Dạng lỏng (LFM) sử dụng các nguyên lý mạng thần kinh dạng lỏng như một giải pháp thay thế cho các kiến trúc dựa trên cơ chế chú ý truyền thống. Các mô hình này được thiết kế để triển khai hiệu quả trên các thiết bị biên, phần cứng tại chỗ và môi trường đám mây với độ trễ thấp.