Liquid AI phát hành trọng số mô hình d1-3B trên Hugging Face
Liquid AI đã phát hành trọng số mở cho mô hình d1-3B của họ trên Hugging Face để cộng đồng truy cập và đánh giá. Bản phát hành này cho phép các nhà phát triển và nghiên cứu chạy cũng như thử nghiệm mô hình 3 tỷ tham số này trên phần cứng cục bộ. Bản phát hành cung cấp cho cộng đồng LLM cục bộ cơ hội tiếp cận kiến trúc non-transformer mới của Liquid AI. Điều này thúc đẩy hệ sinh thái AI mã nguồn mở bằng cách mang đến cho các nhà phát triển một phương pháp thay thế được tối ưu hóa cho việc ra quyết định có cấu trúc và tính toán biên. Kiến trúc d1 được thiết kế như một mô hình quyết định zero-token, đánh giá đầu vào văn bản và hình ảnh để đưa ra các xác suất được hiệu chuẩn cho phân loại, định tuyến và chấm điểm trong một bước thực thi duy nhất thay vì tạo văn bản đầu ra theo từng token. Mô hình hỗ trợ cửa sổ ngữ cảnh 32k và đầu vào đa thức.
## KIẾN THỨC NỀN
Liquid AI là một công ty trí tuệ nhân tạo tập trung vào phát triển các mô hình Liquid Foundation Models (LFM), một dòng kiến trúc được tối ưu hóa cho hiệu suất suy luận trên thiết bị biên và đám mây. Các mô hình ngôn ngữ lớn (LLM) truyền thống dựa vào kiến trúc transformer tự hồi quy vốn tạo đầu ra từng token một, gây tốn kém tài nguyên tính toán cho các tác vụ phân loại và ra quyết định.