~/HARDWARE/huawei-unveils-kirin-9050-with-new-davinci-npu-for-on-device-30b

Huawei công bố chip Kirin 9050 với NPU DaVinci mới hỗ trợ mô hình MoE 30B trên thiết bị

Huawei đã chính thức công bố dòng chip Kirin 9050 trang bị NPU kiến trúc DaVinci thế hệ mới, cho phép lần đầu tiên trong ngành chạy mô hình ngôn ngữ lớn MoE 30B trực tiếp trên thiết bị. NPU mới mang lại hiệu suất tăng 140% và giảm 66% công suất tiêu thụ so với các thế hệ trước. Bước đột phá này cho phép các mô hình AI phức tạp chạy cục bộ mà không cần kết nối Internet hay phụ thuộc vào đám mây, qua đó nâng cao đáng kể khả năng phản hồi của AI biên và bảo mật dữ liệu người dùng. Đây là dấu mốc quan trọng trong năng lực phần cứng di động, thu hẹp khoảng cách giữa tính toán đám mây nặng nề và các thiết bị biên hàng ngày. Chip Kirin 9050 tích hợp công nghệ 'gấp khúc logic' (logical folding) và hỗ trợ các công cụ Transformer, công cụ nhận thức siêu tiết kiệm điện cùng kiến trúc tính toán dị thể CANN. Những năng lực này cho phép các tính năng nâng cao trên thiết bị như đọc màn hình AI, chụp ảnh thông minh Xmage 2.0 và điều hướng bản đồ ngoại tuyến.

## KIẾN THỨC NỀN

Kiến trúc DaVinci là kiến trúc tính toán AI độc quyền của Huawei với hiệu suất cao và khả năng mở rộng linh hoạt, được thiết kế xoay quanh các đơn vị nhân ma trận 3D Cube. Mixture-of-Experts (MoE) là một kỹ thuật học máy trong đó chỉ một tập hợp con các tham số mạng hoặc 'chuyên gia' được kích hoạt cho một đầu vào nhất định, giúp giảm chi phí tính toán mà vẫn duy trì được dung lượng mô hình.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Hardware#Edge AI#NPU#Large Language Models#Huawei

$ subscribe --daily