Amazon ra mắt công cụ mã nguồn mở TorchNeuron giúp chạy PyTorch trên Trainium
Amazon đã giới thiệu một công cụ mã nguồn mở mang tên TorchNeuron, cho phép các nhà phát triển chạy mã PyTorch chuẩn trên các chip Trainium tự thiết kế chỉ bằng cách thay đổi một cấu hình duy nhất mà không cần viết lại mã. Công cụ này được phát hành chính thức theo giấy phép mã nguồn mở tại Hội nghị PyTorch Bắc Mỹ. Sự kiện này đánh dấu một thách thức đáng kể đối với hệ sinh thái CUDA thống trị của NVIDIA bằng cách cung cấp một giải pháp thay thế khả thi giúp giảm chi phí và mang lại cho nhà phát triển quyền lựa chọn phần cứng thực sự. Bằng cách làm cho PyTorch ít phụ thuộc vào phần cứng hơn, Amazon hướng tới việc đẩy nhanh tốc độ lặp lại AI và thúc đẩy sự cạnh tranh lớn hơn trên thị trường hạ tầng trí tuệ nhân tạo. Các thử nghiệm so sánh giữa chip truyền thống và chip Trainium chạy cùng một tập lệnh huấn luyện AI cho thấy nội dung và tốc độ học tập hoàn toàn giống nhau, đồng nghĩa với việc các công cụ kiểm thử và gỡ lỗi hiện có hoạt động mượt mà. Hơn nữa, Amazon đang tích cực hợp tác với cộng đồng PyTorch trong việc phát triển thượng nguồn để loại bỏ các ràng buộc mã dành riêng cho từng loại chip.
## KIẾN THỨC NỀN
PyTorch là một framework học máy mã nguồn mở do Meta dẫn dắt, được phần lớn các nhà phát triển AI áp dụng rộng rãi để xây dựng các mô hình học sâu. CUDA của NVIDIA là một nền tảng điện toán song song và mô hình lập trình đã dành hơn một thập kỷ tối ưu hóa cách phần mềm chạy hiệu quả trên GPU, tạo ra thế độc quyền mạnh mẽ trong ngành. AWS Trainium là dòng chip gia tốc AI tùy chỉnh do Amazon Web Services phát triển nhằm xử lý việc huấn luyện và suy luận mô hình với hiệu suất cao và chi phí tối ưu.