Các tập đoàn công nghệ đối mặt bài toán phân bổ tài nguyên tính toán AI
Các tập đoàn công nghệ lớn như Meta, Microsoft và Google đang gặp khó khăn trong việc cân bằng nguồn tài nguyên tính toán AI khan hiếm giữa việc phát triển mô hình nội bộ và bán năng lực đám mây cho khách hàng bên ngoài. Mark Zuckerberg của Meta cho biết công ty có kế hoạch bán năng lực tính toán cho các khách hàng lớn trong tương lai, mặc dù phần lớn tài nguyên hiện tại vẫn được ưu tiên cho việc huấn luyện AI nội bộ và các dịch vụ cốt lõi. Các khoản chi tiêu vốn khổng lồ cho cơ sở hạ tầng AI đã ảnh hưởng nghiêm trọng đến dòng tiền, khiến việc thương mại hóa ngắn hạn thông qua bán dịch vụ đám mây trở nên hấp dẫn, nhưng ưu tiên phát triển nội bộ lại là yếu tố quyết định để duy trì năng lực cạnh tranh lâu dài trong cuộc đua AGI. Việc không cung cấp đủ tài nguyên tính toán cho khách hàng doanh nghiệp bên ngoài cũng có nguy cơ khiến họ chuyển sang các nhà cung cấp đám mây đối thủ. Do chi tiêu mạnh tay cho cơ sở hạ tầng, dòng tiền tự do của Google lần đầu tiên chuyển sang mức âm, và của Meta đã giảm 91% so với cùng kỳ năm ngoái. Để giảm thiểu tình trạng thiếu hụt, Google đang mua thêm năng lực tính toán từ bên thứ ba và mở rộng triển khai chip Tensor Processing Unit (TPU) tự phát triển.
## KIẾN THỨC NỀN
Sự trỗi dậy nhanh chóng của AI tạo sinh đã tạo ra nhu cầu chưa từng có đối với phần cứng chuyên dụng như GPU và TPU, vốn là những thiết bị thiết yếu để huấn luyện và vận hành các mô hình ngôn ngữ lớn. Các gã khổng lồ công nghệ đang đầu tư hàng chục tỷ USD vào các trung tâm dữ liệu, nhưng những hạn chế về chuỗi cung ứng và chi phí cao đã khiến các tài nguyên tính toán này trở nên vô cùng khan hiếm.