Google tái sử dụng bộ nhớ DDR4 từ máy chủ cũ cho hạ tầng AI mới

Google đang thu hồi các mô-đun bộ nhớ DDR4 từ các máy chủ đã ngưng hoạt động và lắp chúng vào hạ tầng máy chủ AI mới thông qua các thẻ chuyển đổi phần cứng tự thiết kế. Chiến lược này giúp giảm bớt ảnh hưởng từ tình trạng thiếu hụt DRAM nghiêm trọng trên toàn ngành trong bối cảnh bộ nhớ hiệu năng cao chiếm tới 75% chi phí linh kiện của một máy chủ AI. Sáng kiến này cho thấy sự dịch chuyển lớn trong kỹ thuật trung tâm dữ liệu AI, chuyển từ giai đoạn bị giới hạn bởi sức mạnh tính toán sang bị giới hạn bởi nguồn cung bộ nhớ. Điều này chứng minh các gã khổng lồ đám mây đang phải kết hợp kỹ thuật phần cứng tùy chỉnh và tái chế linh kiện để vượt qua các điểm nghẽn chuỗi cung ứng. Thẻ chuyển đổi tùy chỉnh của Google cho phép các mô-đun DDR4 thế hệ cũ cắm vào các khe cắm bo mạch chủ vốn được thiết kế cho DDR5 để xử lý các tác vụ phía máy chủ như tiền xử lý dữ liệu. Nhiệm vụ tăng tốc AI cốt lõi vẫn dựa vào các tầng bộ nhớ chuyên dụng như 288 GB HBM3e tốc độ cao trên mỗi chip TPU 8i, kết hợp cùng các thuật toán nén KV cache ở tầng phần mềm để tối ưu hóa tổng lượng bộ nhớ tiêu thụ.