~/HARDWARE/marvell-and-penguin-launch-industry-s-first-multi-rack-optical-i-o

Marvell và Penguin ra mắt bể nhớ quang học đa giá đỡ đầu tiên trong ngành

Marvell và Penguin đã hợp tác giới thiệu MemoryAI Photonic Appliance, bể nhớ quang học I/O đa giá đỡ đầu tiên trong ngành, cùng với thẻ mở rộng bộ nhớ DDR4 CXL. Hệ thống này dự kiến sẽ được giao mẫu cho một số khách hàng vào nửa cuối năm 2027. Giải pháp này giải quyết vấn đề rào cản bộ nhớ AI nghiêm trọng bằng cách cho phép nhiều XPU chia sẻ băng thông bộ nhớ cấp HBM qua khoảng cách vài mét bằng I/O quang học, từ đó cải thiện hiệu suất sử dụng DRAM. Nó cung cấp cơ sở hạ tầng nền tảng để hỗ trợ tốc độ truyền dữ liệu lớn và hiệu quả năng lượng cần thiết cho các khối lượng công việc AI quy mô lớn hiện đại. Được xây dựng trên nền tảng Marvell Photonic Fabric, thiết bị này tận dụng công nghệ quang tử silicon để mở rộng lên đến 16TB DDR5 RDIMM và 578GB HBM3E, đạt tổng băng thông thiết bị là 57,6 Tbps. Nó hỗ trợ chế độ truy cập trực tiếp HBM, truy cập trực tiếp DDR5 và bộ nhớ đệm HBM-DDR5 để phân bổ bộ nhớ thông minh.

## KIẾN THỨC NỀN

Rào cản bộ nhớ AI đề cập đến nút thắt cổ chai về hiệu suất do sự chênh lệch ngày càng tăng giữa sức mạnh tính toán của bộ xử lý và băng thông/dung lượng bộ nhớ, làm hạn chế hiệu quả của các mô hình lớn. Quang tử silicon tích hợp các linh kiện quang học lên chip silicon để cho phép truyền dữ liệu tốc độ cao, tiêu thụ ít năng lượng hơn ở khoảng cách xa hơn, thay thế cho I/O điện truyền thống vốn chịu tổn thất năng lượng lớn ở quy mô lớn.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Hardware#AI Infrastructure#Memory Pool#Optical I/O#Silicon Photonics

$ subscribe --daily

Marvell và Penguin ra mắt bể nhớ quang học đa giá đỡ đầu tiên trong ngành | Daily News