NVIDIA Ra Mắt DSX MaxLPS Giúp Tăng Đến 40% Năng Suất Token Trên Mỗi Megawatt
NVIDIA đã giới thiệu công nghệ điều phối công suất DSX MaxLPS cho các nhà máy AI, giúp tối ưu hóa việc phân bổ điện năng động và tăng tới 40% lượng token xử lý trên mỗi megawatt. Công nghệ này đã được tích hợp vào nền tảng Conductor của Emerald AI, và thử nghiệm thực tế từ nhà cung cấp dịch vụ đám mây Lambda cho thấy sản lượng token tăng 24% trong cùng một hạn ngạch công suất điện. Giới hạn công suất lưới điện và khả năng cung ứng năng lượng đang trở thành nút thắt lớn nhất đối với việc mở rộng các trung tâm dữ liệu AI. Bằng cách cho phép các cơ sở hạ tầng tối ưu hóa tối đa sản lượng tính toán từ một định mức điện năng cố định mà không cần xây thêm đường dây điện mới, NVIDIA đã giải quyết trực tiếp rào cản năng lượng cốt lõi của ngành. Trong thử nghiệm thực tế của Lambda trên cụm 19 nút, DSX MaxLPS đã nâng sản lượng từ 4 triệu lên 5 triệu token mỗi giây với cùng mức tiêu thụ điện của cụm 16 nút chạy tối đa công suất. Ngoài ra, NVIDIA lưu ý rằng các trung tâm dữ liệu thiết kế cho hệ thống Vera Rubin và Groq 3 LPX có thể lắp đặt thêm tới 40% số lượng GPU trong cùng giới hạn công suất nguồn điện sẵn có.
## KIẾN THỨC NỀN
Các mô hình AI hiện đại phụ thuộc lớn vào các cụm GPU quy mô lớn, trong đó sản lượng token (tốc độ mô hình xử lý hoặc tạo ra dữ liệu/văn bản) là chỉ số đo lường hiệu năng cốt lõi. Khi các trung tâm dữ liệu mở rộng quy mô, các đơn vị cấp điện thường khống chế tổng công suất tối đa của cơ sở, khiến hiệu suất năng lượng (hiệu năng trên mỗi watt) trở nên quan trọng hơn nhiều so với tốc độ xung nhịp thuần túy của phần cứng.