Nvidia ra mắt bộ nhớ tùy chỉnh NVHBM cho các đối tác NVLink Fusion
Nvidia đã giới thiệu NVHBM, một giải pháp bộ nhớ băng thông cao tùy chỉnh được thiết kế cho các đối tác trong hệ sinh thái NVLink Fusion. Được phát triển cùng các nhà sản xuất bộ nhớ hàng đầu, NVHBM tích hợp bộ điều khiển bộ nhớ trực tiếp vào đế chip (base die) của HBM, mang lại băng thông cao hơn 30% và tiêu thụ điện năng thấp hơn 15% so với chuẩn HBM4e thông thường. Bước tiến này cho phép các nhà thiết kế chip AI tùy chỉnh, chẳng hạn như Annapurna Labs của Amazon, xây dựng các bộ xử lý hiệu quả hơn kết nối trực tiếp với giao tiếp tốc độ cao NVLink của Nvidia. Bằng cách giảm tiêu thụ điện năng và diện tích bộ nhớ, công nghệ này giúp các nhà cung cấp dịch vụ đám mây quy mô lớn tối đa hóa mật độ tính toán và hiệu suất năng lượng trong các trung tâm dữ liệu AI khổng lồ. Việc chuyển bộ điều khiển bộ nhớ sang đế chip HBM và sử dụng lớp vật lý (PHY) tùy chỉnh nhỏ hơn giúp giải phóng tới 30% không gian trên đế silicon chính cho các tài nguyên tính toán. Ngoài ra, NVHBM còn đơn giản hóa việc đi dây trên bộ trung gian (interposer) đối với các thiết kế đóng gói đa chip tiên tiến.
## KIẾN THỨC NỀN
Bộ nhớ băng thông cao (HBM) là công nghệ DRAM xếp chồng 3D đóng vai trò quan trọng đối với các bộ tăng tốc AI nhờ tốc độ truyền dữ liệu vượt trội. NVLink Fusion của Nvidia là một nền tảng tích hợp cho phép các chip ASIC tùy chỉnh của bên thứ ba (như AWS Trainium) kết nối trực tiếp với hệ thống mạng NVLink của Nvidia để tạo thành một hệ thống tính toán thống nhất. Thông thường, các bộ điều khiển bộ nhớ nằm trên đế chip xử lý chính, gây tiêu tốn diện tích silicon quý giá.