Sugon hé lộ trạm làm việc di động 64 luồng đầu tiên thế giới hỗ trợ AI
Sugon đã công bố thông tin hé lộ về trạm làm việc di động 64 luồng đầu tiên trên thế giới với thân máy siêu mỏng 16.9mm và 16GB VRAM. Thiết bị được thiết kế để chạy trực tiếp mô hình AI Mixture of Experts (MoE) 35 tỷ tham số tại chỗ với tốc độ lên tới 50 token/giây. Việc tích hợp 64 luồng xử lý vào một thiết bị di động mỏng nhẹ cho phép các nhà phát triển và kỹ sư thực thi mô hình AI lớn trực tiếp tại chỗ mà không cần phụ thuộc vào hạ tầng đám mây. Nếu tuyên bố về hiệu năng là đúng, tốc độ vượt trội từ 3 đến 5 lần so với phần cứng phổ thông có thể thúc đẩy mạnh mẽ lĩnh vực tính toán AI biên di động. Sugon khẳng định hệ thống cung cấp tốc độ suy luận AI nhanh gấp 3 đến 5 lần so với các phần cứng phổ thông hiện tại trên thị trường trong khi vẫn duy trì độ mỏng dưới 17mm. Tuy nhiên, các thông số chi tiết về kiến trúc vi xử lý, chipset GPU và giải pháp tản nhiệt vẫn chưa được tiết lộ.
## KIẾN THỨC NỀN
Sugon là nhà sản xuất phần cứng tính toán hiệu năng cao hàng đầu Trung Quốc, chuyên về siêu máy tính và máy chủ doanh nghiệp. Mixture of Experts (MoE) là một kiến trúc máy học phân chia mô hình thành nhiều tiểu mạng chuyên biệt, giúp các mô hình quy mô lớn xử lý dữ liệu nhanh hơn và tốn ít chi phí tính toán hơn.