FuriosaAI và Supermicro thử nghiệm thiết kế khay máy chủ AI 16 card
Công ty khởi nghiệp chip AI của Hàn Quốc FuriosaAI đang hợp tác với Supermicro để thiết kế khay máy chủ AI 16 card sử dụng cấu trúc bo mạch chủ hai lớp. Thiết kế này nhằm mục đích mở rộng miền kết nối XPU và giảm thiểu việc truyền dữ liệu giữa các khay máy chủ để nâng cao hiệu suất. Các hệ thống AI không dạng tủ rack tiêu chuẩn thường chỉ hỗ trợ tối đa 8 XPU mỗi nút, do đó việc nhân đôi dung lượng này lên 16 card có thể cải thiện đáng kể hiệu suất vận hành cho các tác vụ AI. Điều này thể hiện một hướng tiếp cận kiến trúc phần cứng mới nhằm mở rộng mật độ tính toán AI và băng thông kết nối. Máy chủ này sở hữu cấu trúc "sandwich" với hai bo mạch chủ dùng chung một hệ thống tản nhiệt, mỗi bo mạch được trang bị 8 khe cắm PCIe. Ngoài ra, thiết kế sẽ sử dụng các chip chuyển mạch nhiều làn của Astera Labs để tăng tỷ lệ giữa card mạng (NIC) và bộ chuyển mạch từ 4:1 lên 16:1.
## KIẾN THỨC NỀN
XPU là thuật ngữ chung để chỉ các bộ xử lý khác nhau như GPU, NPU hoặc TPU được sử dụng để tăng tốc các tác vụ AI. Trong các cụm máy chủ AI, miền kết nối (interconnect domain) đề cập đến mạng lưới các kết nối tốc độ cao liên kết các bộ xử lý này, trong đó các miền lớn hơn giúp giảm độ trễ và nghẽn giao tiếp trong quá trình huấn luyện phân tán.