~/GOOGLE CLOUD/google-cloud-reports-fast-ai-server-payback-and-tpu-advantage-over-gpus

Google Cloud báo cáo thời gian hoàn vốn máy chủ AI nhanh và lợi thế của TPU so với GPU

CEO Google Cloud Thomas Kurian tuyên bố công ty thu hồi vốn đầu tư cho máy chủ AI trong chưa đầy hai năm. Ngoài ra, các bộ tăng tốc AI tự phát triển của Google (TPU) đạt thời gian hoàn vốn chỉ bằng một nửa so với các hệ thống GPU truyền thống. Điều này thể hiện lợi thế tài chính to lớn của chip tùy chỉnh so với GPU thương mại đối với các gã khổng lồ công nghệ vận hành khối lượng công việc AI quy mô lớn. Việc sở hữu toàn bộ hạ tầng cho phép Google giảm đáng kể chi phí vận hành và đưa ra mức giá cạnh tranh hơn các đối thủ. Ông Kurian lưu ý rằng mảng kinh doanh bộ tăng tốc AI tùy chỉnh của Google có quy mô gấp đôi đối thủ đám mây lớn thứ hai, nhờ sự hỗ trợ từ các hợp đồng doanh nghiệp thời hạn 5 năm. Ông cũng tuyên bố Google đạt lợi thế về hiệu năng trên giá thành vượt 2,7 lần cho huấn luyện AI, 80% cho suy luận và 30% cho CPU so với đối thủ.

## KIẾN THỨC NỀN

Tensor Processing Unit (TPU) là các vi mạch tích hợp chuyên dụng (ASIC) do Google tự phát triển nhằm tăng tốc khối lượng công việc học máy. Khác với các GPU đa năng do bên thứ ba như NVIDIA cung cấp, thiết kế chip nội bộ cho phép các nhà vận hành đám mây tối ưu hóa phần cứng chặt chẽ với mô hình phần mềm và trung tâm dữ liệu của họ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Google Cloud#AI Hardware#Custom Silicon#Cloud Economics#TPU

$ subscribe --daily

Google Cloud báo cáo thời gian hoàn vốn máy chủ AI nhanh và lợi thế của TPU so với GPU | Daily News