~/NVIDIA/nvidia-details-vera-cpu-with-88-olympus-cores-for-agentic-ai

NVIDIA công bố chi tiết CPU Vera với 88 nhân Olympus cho Agentic AI

NVIDIA đã công bố chi tiết về CPU Vera mới, sở hữu 88 nhân Olympus tự thiết kế và bộ nhớ LPDDR5X băng thông 1,2 TB/s. Bộ vi xử lý này được tối ưu hóa đặc biệt nhằm đáp ứng nhu cầu về hiệu năng đơn luồng và băng thông bộ nhớ của các tác vụ Agentic AI. Khi các hệ thống Agentic AI ngày càng phụ thuộc vào CPU để thực thi mã, gọi công cụ và quản lý các quy trình phức tạp, phần cứng này sẽ giải quyết các nút thắt cổ chai quan trọng về hiệu năng đơn luồng và truy cập bộ nhớ. Đây là một bước chuyển dịch lớn hướng tới phần cứng được thiết kế riêng cho các tác nhân AI tự trị thay vì chỉ phục vụ suy luận LLM thuần túy. CPU Vera sở hữu 176 luồng SMT, công cụ giải mã 10-wide, bộ dự đoán nhánh bằng mạng thần kinh và bộ nhớ đệm L3 thống nhất 164 MB kết nối qua NVIDIA Scalable Coherency Fabric. Thiết bị cũng hỗ trợ cấu hình hai socket thông qua NVLink-C2C, cung cấp 176 làn PCIe 6.4 và hỗ trợ CXL 3.1.

## KIẾN THỨC NỀN

Agentic AI (AI tác nhân) đề cập đến các hệ thống AI tự trị có thể theo đuổi mục tiêu, sử dụng công cụ và tương tác với cơ sở dữ liệu hoặc môi trường sandbox để hoàn thành các tác vụ phức tạp. Khác với các mô hình AI truyền thống chạy chủ yếu trên GPU, các quy trình làm việc của tác nhân này chuyển dịch đáng kể logic thực thi sang CPU, đòi hỏi hiệu năng đơn luồng cao và truy cập bộ nhớ độ trễ thấp.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#NVIDIA#Vera CPU#Agentic AI#Hardware#CPU Architecture

$ subscribe --daily