~/EDGE AI/open-source-mobile-app-runs-100-local-ai-models-for-real-world

Ứng dụng di động mã nguồn mở chạy mô hình AI nội bộ 100% để giám sát thực tế

Một lập trình viên vừa phát hành Observer, ứng dụng di động mã nguồn mở dành cho iOS và Android chạy các mô hình AI cục bộ nhỏ gọn trên điện thoại thông minh để thực hiện các tác vụ giám sát thực tế. Ứng dụng sử dụng các mô hình trọng lượng nhẹ như OneJev-0.8b và qwen-0.8b để kích hoạt cảnh báo dựa trên các dấu hiệu thị giác hoặc môi trường. Công cụ này minh họa khả năng thực tế của việc chạy Edge AI trên phần cứng tiêu dùng, cho phép người dùng tận dụng lại những chiếc điện thoại thông minh cũ thành thiết bị giám sát hoặc thông báo chuyên dụng mà không cần phụ thuộc vào máy chủ đám mây. Nó làm nổi bật tính khả thi ngày càng cao của việc triển khai các Mô hình ngôn ngữ nhỏ cục bộ cho tự động hóa hàng ngày. Ứng dụng này hoàn toàn miễn phí và là mã nguồn mở, có sẵn trên GitHub, Apple App Store và Google Play Store. Ứng dụng dựa trên các mô hình có dưới 1 tỷ tham số cực kỳ nhỏ gọn, cho phép hoạt động mượt mà ngay cả trên phần cứng điện thoại thông minh đời cũ vốn có nguy cơ bị bỏ xó.

## KIẾN THỨC NỀN

Edge AI đề cập đến việc triển khai các thuật toán và mô hình trí tuệ nhân tạo trực tiếp trên các thiết bị biên như điện thoại thông minh và cảm biến IoT, cho phép xử lý dữ liệu thời gian thực gần nguồn phát sinh hơn. Các mô hình ngôn ngữ nhỏ là những mô hình AI nhỏ gọn với ít tham số hơn, có thể chạy hoàn toàn trên các thiết bị điện tử tiêu dùng như máy tính cá nhân hoặc thiết bị thông minh mà không cần tài nguyên đám mây khổng lồ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Edge AI#LocalLLaMA#Mobile#Open Source#Computer Vision

$ subscribe --daily