Công suất bộ nhớ cho AI được báo cáo đã bán hết đến năm 2027
Các báo cáo trong ngành chỉ ra rằng nguồn cung bộ nhớ băng thông cao (HBM), vốn rất quan trọng đối với các bộ tăng tốc và phần cứng AI, đã được đặt trước và bán hết hoàn toàn cho đến năm 2027. Tình trạng nghẽn cổ chai nghiêm trọng trong chuỗi cung ứng này có thể hạn chế đáng kể việc sản xuất các GPU AI thế hệ tiếp theo, có khả năng làm chậm tiến trình phát triển và mở rộng quy mô của các mô hình ngôn ngữ lớn. Tình trạng khan hiếm này nhắm cụ thể vào HBM, một kiến trúc bộ nhớ xếp chồng 3D chuyên dụng cần thiết để cung cấp dữ liệu cho các lõi GPU hiệu năng cao. Hạn chế này làm nổi bật việc mở rộng quy mô phần cứng AI không chỉ bị giới hạn bởi việc chế tạo chip mà còn bởi đóng gói tiên tiến và các thành phần bộ nhớ.
## KIẾN THỨC NỀN
Bộ nhớ băng thông cao (HBM) là một giao diện bộ nhớ tiên tiến xếp chồng nhiều lớp DRAM theo chiều dọc để đạt được tốc độ giao tiếp cực nhanh và thông lượng dữ liệu khổng lồ. Được phát triển ban đầu bởi các công ty như SK Hynix, AMD và Samsung, HBM là thành phần thiết yếu cho các bộ tăng tốc AI hiện đại như GPU của NVIDIA, vốn đòi hỏi xử lý dữ liệu nhanh chóng để huấn luyện và vận hành các mô hình AI lớn.