Liquid AI Ra Mắt Chuỗi Mô Hình Quyết Định d1 Trọng Số Mở Với Độ Trễ Cực Thấp
Liquid AI đã phát hành hai mô hình quyết định trọng số mở d1-3B và d1-omni-600M, hỗ trợ khả năng đa modal trên các đầu vào văn bản, hình ảnh và giọng nói. Các mô hình này đạt độ trễ đưa ra quyết định cực thấp, chỉ 8 millisecond trên GPU cá nhân như NVIDIA RTX 4090. Bằng cách phát hành công khai các mô hình quyết định nhỏ gọn, tốc độ cao trên Hugging Face, Liquid AI cho phép các nhà phát triển triển khai trí tuệ nhân tạo thời gian thực trực tiếp trên thiết bị biên và robot. Điều này giảm sự phụ thuộc vào hạ tầng đám mây đắt đỏ đối với các ứng dụng yêu cầu suy luận đa modal tức thì. Mô hình d1-3B với 3,12 tỷ tham số đạt 48,57 điểm trên bộ kiểm thử Decision Index v0.2.1, vượt qua các mô hình dưới 10 tỷ tham số hiện có. Trên phần cứng tính toán biên, d1-3B ghi nhận độ trễ đưa ra một quyết định là 16 millisecond trên NVIDIA Jetson AGX Thor và 50 millisecond trên Jetson Orin Nano.
## KIẾN THỨC NỀN
Liquid AI là công ty tập trung vào các kiến trúc nơ-ron động có khả năng tính toán hiệu quả trên luồng dữ liệu thời gian liên tục. Các công cụ quyết định (decision engines) đánh giá đầu vào động cùng các tiêu chí rõ ràng để lựa chọn hành động, đóng vai trò quan trọng trong các tác vụ biên tốc độ cao như điều khiển drone, robot và giao diện tương tác.