CPU NVIDIA Vera nhanh hơn Intel Sapphire Rapids 2,2 lần trong thử nghiệm Agentic AI
Nền tảng suy luận AI đám mây DeepInfra đã công bố kết quả thử nghiệm hiệu năng cho thấy CPU Vera mới của NVIDIA nhanh hơn 2,2 lần so với Intel Sapphire Rapids trong các tác vụ Agentic AI chạy trên container. Trong các bài kiểm tra, CPU Vera đạt độ trễ runc là 29ms so với 64ms của Sapphire Rapids. Khi các tác vụ Agentic AI ngày càng trở nên phổ biến, việc tối ưu hóa hiệu năng CPU cho môi trường container là rất quan trọng để giảm độ trễ và chi phí vận hành trong hạ tầng AI. Thử nghiệm này làm nổi bật khả năng cạnh tranh ngày càng tăng của NVIDIA trên thị trường CPU cho trung tâm dữ liệu, thách thức các gã khổng lồ x86 truyền thống như Intel và AMD. Thử nghiệm được tiến hành dưới các điều kiện đồng nhất sử dụng 20 nhân vật lý, 1 luồng mỗi nhân, một nút NUMA duy nhất và bật giới hạn CPU. NVIDIA Vera cũng vượt trội hơn AMD Zen5 Turin và Intel Granite Rapids, đạt độ trễ thấp nhất trong cả hai cấu hình triển khai container runc và Kata.
## KIẾN THỨC NỀN
Agentic AI đề cập đến các hệ thống AI tự trị có thể theo đuổi mục tiêu, sử dụng công cụ và thực hiện hành động trong các giới hạn được xác định trước. Để chạy các tác vụ này một cách hiệu quả, các nhà cung cấp dịch vụ đám mây thường triển khai chúng trong các container nhẹ sử dụng các trình thực thi như runc, vốn dựa trên các tính năng của nhân Linux để cô lập tiến trình. CPU Vera của NVIDIA được thiết kế đặc biệt để xử lý các tác vụ tự trị này, sở hữu 88 nhân Olympus và bộ nhớ LPDDR5X băng thông cao.