Sáng chế mới của Microsoft nhắm đến GPU nhàn rỗi để huấn luyện AI kèm phần thưởng
Microsoft đã công bố một bằng sáng chế chi tiết về hệ thống tận dụng sức mạnh GPU nhàn rỗi từ các thiết bị biên của người dùng để thực hiện các tác vụ vi mô huấn luyện mô hình AI. Đổi lại việc đóng góp tài nguyên tính toán, người dùng có thể kiếm điểm thưởng có thể quy đổi thành phần mềm miễn phí, quyền truy cập mô hình hoặc tiền mặt. Phương pháp mới mẻ này giải quyết tình trạng thiếu hụt phần cứng AI và chi phí cơ sở hạ tầng tăng cao trên toàn ngành bằng cách tạo ra một mạng lưới điện toán đám mây phi tập trung. Bằng cách đóng vai trò trung gian, Microsoft có thể giúp các công ty và nhà nghiên cứu thiếu kinh phí huấn luyện các mô hình AI sử dụng phần cứng người tiêu dùng phân tán. Hệ thống được cấp bằng sáng chế liên tục giám sát các chỉ số phần cứng như mức sử dụng CPU và GPU, dung lượng bộ nhớ, nhiệt độ và mức tiêu thụ điện năng để chạy các tác vụ một cách cơ hội mà không ảnh hưởng đến trải nghiệm của người dùng. Tuy nhiên, hệ thống hiện mới chỉ ở giai đoạn bằng sáng chế và các câu hỏi liên quan đến quyền riêng tư của người dùng cùng độ hao mòn phần cứng vẫn chưa được giải quyết.
## KIẾN THỨC NỀN
Điện toán phân tán liên quan đến việc gom các tài nguyên trên nhiều thiết bị kết nối mạng để xử lý các tác vụ tính toán quy mô lớn mà thông thường đòi hỏi các trung tâm dữ liệu tập trung đắt đỏ. Điện toán biên tinh chỉnh thêm quy trình này bằng cách dịch chuyển việc xử lý dữ liệu lại gần nơi dữ liệu được tạo ra, qua đó giảm độ trễ và tận dụng phần cứng cục bộ.