Mô hình LiquidAI LFM3-Omni-2B nhận được hỗ trợ GGUF ngay ngày đầu ra mắt trong llama.cpp
Mô hình LFM3-Omni-2B của LiquidAI đã nhận được sự hỗ trợ ngay trong ngày ra mắt dưới định dạng GGUF cho llama.cpp. Bản tích hợp này cho phép thực hiện các tính năng đa phương thức trực tiếp trên thiết bị, bao gồm cả khả năng chuyển đổi giọng nói thành văn bản và văn bản thành giọng nói. Bản phát hành này giúp mô hình đa phương thức mở tiên tiến có thể chạy dễ dàng trên phần cứng phổ thông, qua đó mở rộng đáng kể khả năng tiếp cận AI cục bộ. Đáng chú ý, mô hình mang lại khả năng xử lý giọng nói đa ngôn ngữ mạnh mẽ, chẳng hạn như hỗ trợ tổng hợp và nhận dạng giọng nói tiếng Ba Lan trong một gói 2 tỷ tham số nhỏ gọn. Quá trình tích hợp đã được phối hợp nhanh chóng với đội ngũ LiquidAI bởi thành viên đóng góp cộng đồng tdakhran. Kích thước mô hình 2B nhỏ gọn giúp người dùng có thể triển khai các tính năng đa phương thức nâng cao tại chỗ mà không cần cơ sở hạ tầng đám mây cồng kềnh.
## KIẾN THỨC NỀN
GGUF là định dạng tệp được thiết kế để chạy các mô hình ngôn ngữ lớn một cách hiệu quả trên phần cứng phổ thông, trong khi llama.cpp là một thư viện mã nguồn mở phổ biến chuyên thực hiện suy luận mô hình cục bộ. Dòng sản phẩm LFM3 của LiquidAI bao gồm các mô hình nền tảng thế hệ mới được xây dựng trên một cấu trúc chung để hỗ trợ các phương thức văn bản, thị giác, âm thanh và đa phương thức tổng hợp.