NVIDIA công bố dữ liệu thử nghiệm Vera CPU cho khối lượng công việc AI agent
NVIDIA đã công bố dữ liệu thử nghiệm cho mẫu Vera CPU sắp ra mắt, cho thấy chip này có thể cung cấp lượng AI agent trên mỗi watt gấp 1,6 lần và tốc độ thực thi agent nhanh gấp đôi so với các CPU x86 hàng đầu. Khi việc triển khai AI agent trong doanh nghiệp tăng mạnh, các trung tâm dữ liệu phải đối mặt với các nút cổ chai khi chuyển từ tạo nội dung đơn thuần sang các tác vụ nhiều bước đòi hỏi tài nguyên CPU lớn. Sự thay đổi này cho thấy các bộ xử lý chuyên dụng có thể giảm bớt các giới hạn về điện năng và tốc độ trong cơ sở hạ tầng đám mây thế hệ tiếp theo. Các đối tác thử nghiệm sớm như Perplexity, DeepInfra và Daytona đã báo cáo mức tăng hiệu suất đáng kể, trong đó Daytona cho thấy khả năng khởi 1.000 hộp cát agent trong 10,8 giây bằng Vera.
## KIẾN THỨC NỀN
Khác với các mô hình AI tạo sinh cơ bản vốn chủ yếu yêu cầu GPU để suy luận văn bản hoặc hình ảnh, AI agent phải chủ động tìm kiếm cơ sở dữ liệu, viết và kiểm thử mã nguồn, cũng như chạy các công cụ bên ngoài, tạo ra khối lượng công việc nặng nề và liên tục cho CPU máy chủ. Các CPU x86 truyền thống từ lâu đã cung cấp sức mạnh cho các máy chủ doanh nghiệp tiêu chuẩn, nhưng các quy trình làm việc agent mới nổi đòi hỏi phần cứng được tích hợp chặt chẽ với các ngăn xếp phần mềm AI hiện đại.