Mô hình LFM3 Omni 2B của Liquid AI chạy trực tiếp bên trong trình duyệt web
Liquid AI đã trình diễn mô hình LFM3 Omni 2B mới của họ có thể chạy cục bộ thông qua WebGPU ngay bên trong trình duyệt web. Một bản demo trực tiếp đã được giới thiệu bằng không gian Hugging Face của họ. Việc chạy một mô hình đa phương thức tổng hợp trực tiếp trong trình duyệt giúp giảm rào cản cho việc triển khai AI phía máy khách và nâng cao quyền riêng tư của người dùng bằng cách giữ dữ liệu cục bộ. Cột mốc này làm nổi bật sự tiến bộ nhanh chóng của AI biên và học máy gốc trên trình duyệt. Mô hình LFM3 Omni 2B hoạt động như một hệ thống đa phương thức đầu cuối có khả năng xử lý các tác vụ văn bản, thị giác và âm thanh trong một kích thước nhỏ gọn 2 tỷ tham số. Nó tận dụng khả năng tăng tốc phần cứng WebGPU để mang lại hiệu suất thời gian thực trực tiếp bên trong phần cứng của máy khách.
## KIẾN THỨC NỀN
WebGPU là một tiêu chuẩn web hiện đại cung cấp khả năng đồ họa và tính toán hiệu suất cao, cho phép các nhà phát triển chạy khối lượng công việc học máy nặng trực tiếp trên GPU cục bộ thông qua trình duyệt. Các mô hình tổng hợp (omni) kết hợp nhiều phương thức—như văn bản, giọng nói và thị giác—thành một kiến trúc thống nhất duy nhất thay vì yêu cầu các mô hình chuyên biệt riêng biệt.