llama.cpp b10092 Ra Mắt Hỗ Trợ PowerPC Trên AIX Và Sửa Lỗi SGEMM
Phiên bản llama.cpp b10092 cho phép các biến thể backend CPU PowerPC hoạt động trên hệ điều hành AIX và sửa lỗi thiếu dấu chấm phẩy trong phần triển khai sgemm. Bản cập nhật này mở rộng kiểm tra nền tảng trong cấu hình CMake để tái sử dụng các triển khai backend PowerPC hiện có trên AIX. Bản phát hành này mở rộng khả năng tương thích của llama.cpp sang các môi trường doanh nghiệp hoặc hệ thống cũ chạy AIX trên phần cứng PowerPC. Nó cũng giải quyết một lỗi cú pháp có thể ngăn cản việc biên dịch hoặc thực thi thành công các hàm nhân ma trận trên các nền tảng này. Bản cập nhật mở rộng kiểm tra nền tảng trong CMake để hỗ trợ AIX mà không làm thay đổi hành vi của backend PowerPC hiện tại. Ngoài ra, lỗi cú pháp được khắc phục là một dấu chấm phẩy bị thiếu trong phần triển khai nhân ma trận (matmul) Q0 của PowerPC trong tệp sgemm.cpp.
## KIẾN THỨC NỀN
llama.cpp là một khung suy luận LLM mã nguồn mở được thiết kế để đạt hiệu suất cao trên nhiều loại phần cứng khác nhau bằng cách sử dụng thư viện tensor ggml. AIX là hệ điều hành Unix độc quyền của IBM, chạy trên bộ vi xử lý PowerPC. SGEMM (Nhân ma trận tổng quát độ chính xác đơn) là một phép toán đại số tuyến tính quan trọng được sử dụng để thực hiện các phép nhân ma trận trong các mô hình học máy.