Bản phát hành llama.cpp b11970 bổ sung hỗ trợ Conv2D cho Qualcomm Hexagon DSP
Bản phát hành llama.cpp b11970 giới thiệu tính năng hỗ trợ toàn diện cho Conv2D và tích chập theo chiều sâu (depthwise convolution), đi kèm với các tối ưu hóa hiệu năng dành cho các Bộ xử lý tín hiệu số (DSP) Qualcomm Hexagon. Bản cập nhật này cải thiện đáng kể khả năng chạy các mô hình ngôn ngữ lớn và tính năng đa phương thức một cách hiệu quả trên các thiết bị di động và thiết bị biên sử dụng phần cứng Qualcomm. Nhờ tận dụng các DSP và đơn vị xử lý thần kinh chuyên dụng, nó giúp thực thi nhanh hơn và tiết kiệm năng lượng hơn trên điện thoại thông minh cùng phần cứng IoT. Việc triển khai bao gồm bộ đệm hai tầng (double-buffered staging), kỹ thuật GEMM ẩn (implicit GEMM), và các đường dẫn được vector hóa hoàn toàn nhằm tối đa hóa thông lượng. Bản cập nhật cũng tái cấu trúc các luồng DMA và quản lý tham số kernel để khớp mượt mà với các phần phụ trợ tăng tốc phần cứng khác.
## KIẾN THỨC NỀN
Qualcomm Hexagon là dòng bộ xử lý tín hiệu số và đơn vị xử lý thần kinh được thiết kế cho các tác vụ xử lý tín hiệu số và học máy hiệu suất cao, tiết kiệm điện năng trên thiết bị di động. Các lớp tích chập (Conv2D) là khối xây dựng cơ bản trong mạng nơ-ron, thường được sử dụng trong các bộ điều hợp thị giác đa phương thức để xử lý hình ảnh trước khi đưa vào các mô hình ngôn ngữ.