~/EDGE AI/google-s-gemma-language-model-successfully-runs-locally-on-a-printer

Mô hình ngôn ngữ Gemma của Google chạy cục bộ thành công trên máy in

Một bản trình diễn mới từ hackerllama cho thấy mô hình ngôn ngữ Gemma của Google đang chạy cục bộ trên một thiết bị phần cứng phi truyền thống, cụ thể là máy in. Dự án sáng tạo này làm nổi bật khả năng thực thi các mô hình trí tuệ nhân tạo hiện đại trên phần cứng thông thường, có công suất thấp. Bản minh họa khái niệm này cho thấy tính linh hoạt ấn tượng của việc triển khai LLM cục bộ hiện đại và các khả năng của Edge AI. Nó vượt qua các giới hạn về nơi trí tuệ nhân tạo có thể hoạt động, cho thấy các mô hình trọng lượng nhẹ có khả năng được triển khai trên hầu hết mọi thiết bị có kết nối. Thử nghiệm liên quan đến việc triển khai phiên bản trọng lượng nhẹ của mô hình Gemma từ Google lên kiến trúc máy tính nhúng của máy in. Mặc dù hiệu suất bị giới hạn bởi các tài nguyên phần cứng hạn chế của máy in, nó vẫn thực thi thành công việc suy luận cục bộ.

## KIẾN THỨC NỀN

Gemma là một chuỗi các mô hình ngôn ngữ lớn có trọng lượng mở, trọng lượng nhẹ do Google DeepMind phát triển dựa trên các công nghệ tương tự như Gemini. Edge AI đề cập đến việc chạy các mô hình học máy và AI tạo sinh cục bộ trên các thiết bị của người dùng cuối thay vì phụ thuộc vào các trung tâm dữ liệu đám mây khổng lồ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Edge AI#Local LLMs#Gemma#Hardware hacking

$ subscribe --daily