Huawei Ra Mắt Khung CANN PyPTO Hỗ Trợ Tức Thì Cho Mô Hồi Ling-3.0-Flash Của Ant Group
Huawei đã công bố hỗ trợ tức thì (day-zero) cho mô hình Ling-3.0-flash của Ant Group trên phần cứng Ascend A2 và A3, đồng thời ra mắt CANN PyPTO, một khung lập trình toán tử dựa trên Python. Khung này tích hợp CANNBot, một hệ thống đa tác tử (multi-agent) giúp tự động hóa toàn bộ quy trình phát triển toán tử qua bảy giai đoạn. Bản phát hành này giúp đơn giản hóa và tăng tốc việc triển khai các mô hình AI phức tạp trên chip Ascend của Huawei bằng cách cho phép các nhà phát triển viết các toán tử tùy chỉnh bằng Python thay vì mã phần cứng cấp thấp. Điều này thể hiện nỗ lực của Huawei trong việc xây dựng một hệ sinh thái phần mềm mạnh mẽ có khả năng thích ứng nhanh chóng với các mô hình nguồn mở mới như Ling-3.0-flash. CANN PyPTO sử dụng tập lệnh ảo Parallel Tensor/Tile Operation (PTO) để tự động hóa việc phân mảnh (tiling), di chuyển dữ liệu và tạo mã nguồn. Việc chạy mô hình Ling-3.0-flash yêu cầu cấu hình phần cứng tối thiểu là tám card Ascend A2 hoặc bốn card Ascend A3.
## KIẾN THỨC NỀN
CANN (Compute Architecture for Neural Networks) là nền tảng hỗ trợ chip độc quyền của Huawei dành cho bộ xử lý AI Ascend, đóng vai trò tương tự như CUDA của NVIDIA. Các toán tử (operators) là các khối xây dựng toán học cơ bản (như nhân ma trận) được sử dụng để cấu trúc mạng thần kinh, và việc tối ưu hóa chúng là rất quan trọng để tối đa hóa hiệu suất phần cứng.