~/MICROSOFT/microsoft-enters-mass-production-for-maia-200-custom-ai-chip

Microsoft đưa chip AI tự phát triển Maia 200 vào sản xuất hàng loạt

Microsoft đã chính thức đưa bộ tăng tốc AI tự phát triển thế hệ thứ hai mang tên Maia 200 vào sản xuất hàng loạt, hiện đang vận hành các khối lượng công việc AI quy mô lớn tại các trung tâm dữ liệu. Bộ tăng tốc mới này mang lại hiệu suất xử lý token trên mỗi watt tăng gấp 1,7 lần so với cơ sở hạ tầng GPU hàng đầu đối với các tính năng như Microsoft Teams, Copilot và Cowork. Sự phát triển này đánh dấu một bước tiến quan trọng đối với các công ty công nghệ lớn đang tìm kiếm sự độc lập khỏi các nhà cung cấp phần cứng bên thứ ba như Nvidia thông qua việc sử dụng vi mạch tùy chỉnh. Bằng cách cải thiện đáng kể hiệu suất tạo token và lên kế hoạch triển khai quy mô đa gigawatt vào năm 2027, Microsoft có thể mở rộng các dịch vụ AI của mình một cách bền vững và tiết kiệm chi phí hơn. Được xây dựng trên tiến trình 3nm của TSMC, Maia 200 sở hữu các lõi tensor FP4 và FP8, bộ nhớ HBM3e dung lượng 216GB và 272MB SRAM trên chip, cung cấp năng lực tính toán vượt quá 10 petaFLOPS ở độ chính xác FP4 trên mỗi chip. Chip có thể mở rộng thông qua kết nối Ethernet thành các cụm lên tới 6.144 bộ tăng tốc và dự kiến sẽ hỗ trợ GitHub Copilot cùng Microsoft Foundry.

## KIẾN THỨC NỀN

Bộ tăng tốc AI là phần cứng chuyên dụng được thiết kế để xử lý các yêu cầu tính toán nặng nhọc trong việc huấn luyện và vận hành các mô hình máy học nhanh hơn nhiều so với CPU thông thường. Bộ nhớ băng thông cao (HBM) xếp chồng các con chip nhớ theo chiều dọc để đạt được tốc độ truyền dữ liệu cực cao, điều này đóng vai trò quan trọng trong việc cung cấp lượng dữ liệu khổng lồ cho các mô hình AI hiện đại.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Microsoft#AI Accelerators#Hardware#Custom Silicon#Cloud Computing

$ subscribe --daily

Microsoft đưa chip AI tự phát triển Maia 200 vào sản xuất hàng loạt | Daily News