Intel Crescent Island mang lại hiệu năng FP8 1.3 PFLOPs và dung lượng LPDDR5X lên đến 480 GB
Phần cứng Crescent Island và D270 của Intel được thiết kế nhằm cạnh tranh trong lĩnh vực AI bằng cách cung cấp hiệu năng FP8 đạt 1.3 PFLOPs ở mức công suất 350W. Bên cạnh đó, hệ thống còn hỗ trợ bộ nhớ LPDDR5X hướng đến phân khúc tối ưu chi phí với dung lượng lên tới 480 GB. Phần cứng này cung cấp một giải pháp thay thế hiệu suất cao và tiết kiệm chi phí để chạy các mô hình ngôn ngữ lớn cục bộ và các tác vụ AI. Tuy nhiên, sự thành công tổng thể sẽ phụ thuộc rất lớn vào việc liệu hỗ trợ phần mềm có bắt kịp các hệ sinh thái phần cứng cạnh tranh hay không. Bộ tăng tốc này đạt công suất tính toán FP8 là 1.3 PFLOPs trong khi duy trì mức tiêu thụ điện năng 350W, kết hợp với dung lượng bộ nhớ LPDDR5X cực lớn lên tới 480 GB.
## KIẾN THỨC NỀN
FP8 là định dạng dấu phẩy động 8-bit giúp giảm yêu cầu băng thông bộ nhớ và tăng tốc các tác vụ học sâu trong khi vẫn duy trì độ chính xác chấp nhận được. LPDDR5X là tiêu chuẩn bộ nhớ tốc độ dữ liệu kép công suất thấp, cung cấp băng thông cao và các tùy chọn dung lượng lớn phù hợp cho các ứng dụng đòi hỏi nhiều bộ nhớ như chạy mô hình ngôn ngữ lớn. Bộ tăng tốc AI là các thành phần phần cứng chuyên dụng được thiết kế để tăng tốc các phép tính trí tuệ nhân tạo và học máy hiệu quả hơn so với CPU thông thường.