~/EDGE AI/xiaomi-showcases-xuanjie-o100-prototype-and-ai-cube-with-self-developed-chips

Xiaomi Trình Làng Mẫu Thử Xuanjie O100 Và AI Cube Sử Dụng Chip Tự Phát Triển

Xiaomi đã ra mắt hai mẫu thử phần cứng là thiết bị di động Xuanjie O100 và máy tính mini Xiaomi AI Cube, được trang bị các dòng chip tự phát triển Xuanjie mới công bố. Mẫu thử Xuanjie O100 chạy mô hình ngôn ngữ lớn trên thiết bị Xiaomi MiMo, đạt tốc độ suy luận cục bộ lên tới 295 token mỗi giây. Bước đi này làm nổi bật nỗ lực của Xiaomi trong việc tích hợp dọc phần cứng và tự chủ thiết kế chip cho AI biên (edge AI). Bằng cách chạy các mô hình ngôn ngữ lớn cục bộ với tốc độ cao, Xiaomi đặt mục tiêu giảm sự phụ thuộc vào AI đám mây, đồng thời cải thiện quyền riêng tư và độ trễ cho người dùng. Mẫu thử Xuanjie O100 sử dụng tính năng tính toán cộng tác hai chip (O3 và O100) và trang bị hệ thống tản nhiệt chủ động bằng quạt gió hỗ trợ công suất tản nhiệt lên đến 10W. Trong khi đó, Xiaomi AI Cube tích hợp cả ba chip Xuanjie O3, O100 và D100 cùng bộ nhớ thống nhất 80GB để chạy mô hình tham số 120B song song với mô hình 3B trên thiết bị.

## KIẾN THỨC NỀN

AI biên (Edge AI) đề cập đến việc chạy các thuật toán trí tuệ nhân tạo cục bộ trên các thiết bị phần cứng thay vì trên các máy chủ đám mây tập trung. Dòng chip Xuanjie của Xiaomi đại diện cho sáng kiến tự phát triển bán dẫn của hãng, bao gồm SoC flagship O3, chip tăng tốc AI O100 và chip D100. Xiaomi MiMo là dòng mô hình ngôn ngữ lớn độc quyền của công ty được thiết kế cho cả ứng dụng đám mây và trên thiết bị.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Edge AI#AI Chips#Xiaomi#On-Device LLM#Hardware

$ subscribe --daily

Xiaomi Trình Làng Mẫu Thử Xuanjie O100 Và AI Cube Sử Dụng Chip Tự Phát Triển | Daily News