Hộp AI Linux nhỏ gọn chạy trên chip Axera 256-TOPS
Sipeed vừa công bố chi tiết về MaixStation, một trạm làm việc AI Linux nhỏ gọn chạy bằng bộ xử lý AX8860P của Axera, sở hữu NPU đạt hiệu năng 256 TOPS và hỗ trợ bộ nhớ LPDDR5X lên đến 128GB. Phần cứng này mang lại khả năng suy luận và phát triển AI cục bộ mạnh mẽ vào một thiết bị có kích thước vô cùng nhỏ gọn, cung cấp cho các nhà phát triển một giải pháp điện toán biên hiệu quả. Hệ thống bao gồm 16 nhân CPU Arm, băng thông bộ nhớ 273GB/s, kết nối mạng 10G SFP+ và khe mở rộng PCIe 5.0 nhằm hỗ trợ các tác vụ AI cục bộ hiệu năng cao.
## KIẾN THỨC NỀN
Điện toán biên AI (Edge AI) đề cập đến việc chạy các mô hình học máy trực tiếp trên các thiết bị phần cứng vật lý thay vì trên máy chủ đám mây, giúp giảm độ trễ và sự phụ thuộc vào kết nối internet. NPU (Bộ xử lý thần kinh) là các kiến trúc bộ xử lý chuyên dụng được thiết kế riêng để tăng tốc các tác vụ AI và học máy một cách hiệu quả.