~/SAMSUNG/samsung-allocates-over-60-of-v-nand-capacity-to-nvidia-for-ai

Samsung phân bổ hơn 60% công suất V-NAND cho Nvidia để lưu trữ AI

Samsung được cho là đang phân bổ hơn 60% công suất sản xuất V-NAND cho Nvidia nhằm hỗ trợ công nghệ Context Memory Storage (CMX). Bên cạnh đó, Samsung cũng đang đẩy nhanh lộ trình phát triển bộ nhớ flash V9 và V10, trong đó tỷ lệ sản lượng đạt chuẩn của V9 đã vượt quá 80%. Sự hợp tác này giải quyết điểm nghẽn nghiêm trọng về bộ đệm Key-Value (KV cache) trong các máy chủ AI, vốn đang tăng nhanh do các tác vụ AI ngữ cảnh dài và AI tự chủ (agentic AI). Điều này củng cố vị thế của Samsung như một nhà cung cấp phần cứng then chốt trong hệ sinh thái hạ tầng AI đang mở rộng của Nvidia. Nền tảng CMX của Nvidia hiện sử dụng 576 ổ SSD để đạt dung lượng lưu trữ 9.600TB, với nhu cầu dự kiến sẽ tăng vọt lên hơn 100 triệu TB vào năm 2027. Samsung cũng đang nghiên cứu V11 NAND với số lớp xếp chồng lên tới 500 lớp nhằm cung cấp các ổ SSD có mật độ cao hơn nữa cho các mô-đun CMX tương lai.

## KIẾN THỨC NỀN

V-NAND (NAND dọc) là một kiến trúc bộ nhớ flash xếp chồng các ô nhớ theo chiều dọc để tăng mật độ và dung lượng lưu trữ trên cùng một diện tích chip. Trong suy luận AI, bộ đệm KV (KV cache) lưu trữ các khóa (keys) và giá trị (values) chú ý cho các token trong một cửa sổ ngữ cảnh, nhưng sự tăng trưởng tuyến tính của nó tạo ra một điểm nghẽn bộ nhớ khổng lồ mà các công nghệ như CMX của Nvidia hướng tới giải quyết.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Samsung#Nvidia#V-NAND#AI Hardware#Semiconductors

$ subscribe --daily