NVIDIA ra mắt DGX Station for Windows chạy mô hình AI 1 nghìn tỷ tham số
NVIDIA đã công bố DGX Station for Windows, một siêu máy tính AI để bàn trang bị chip GB300 Grace Blackwell Ultra Desktop Superchip có khả năng chạy cục bộ các mô hình lên tới 1 nghìn tỷ tham số. Dự kiến phát hành vào quý 4 năm 2026, cỗ máy này cung cấp hiệu năng AI FP4 lên tới 20 PFLOPS cùng 748GB bộ nhớ hợp nhất. Bằng cách đưa phần cứng và bộ nhớ tốc độ cao cấp trung tâm dữ liệu vào môi trường Windows để bàn, các nhà phát triển có thể tinh chỉnh và vận hành các mô hình lớn tại chỗ mà không cần phụ thuộc vào hạ tầng đám mây. Điều này giúp giảm độ trễ, chi phí đám mây và rủi ro bảo mật dữ liệu, đồng thời tăng tốc quá trình phát triển các AI agent và thử nghiệm ứng dụng. Hệ thống kết hợp CPU Grace 72 nhân và GPU Blackwell Ultra, cung cấp 748GB bộ nhớ hợp nhất chia giữa 252GB VRAM HBM3e siêu tốc và 496GB RAM hệ thống LPDDR5X. Hoạt động như một máy trạm tải nặng, cỗ máy tiêu thụ công suất tối đa 1.600W và yêu cầu mạch điện 20A.
## KIẾN THỨC NỀN
Việc vận hành các mô hình trí tuệ nhân tạo khổng lồ với hàng trăm tỷ hoặc hàng nghìn tỷ tham số thường đòi hỏi các cụm GPU nhiều máy chủ đặt tại trung tâm dữ liệu doanh nghiệp do giới hạn khắt khe về dung lượng VRAM. Bộ nhớ băng thông cao (HBM) giải quyết nghẽn dữ liệu bằng cách xếp chồng các module RAM động theo chiều dọc trực tiếp trên đế bộ xử lý, mang lại băng thông hàng terabyte mỗi giây cần thiết cho các tác vụ AI hiện đại.