Phiên bản llama.cpp b10842 bổ sung hỗ trợ HIP cho kiến trúc AMD gfx90c
Dự án mã nguồn mở llama.cpp đã phát hành phiên bản b10842, mang đến khả năng hỗ trợ HIP cho kiến trúc GPU gfx90c của AMD trong backend tensor GGML. Pull request #26454 đảm bảo việc triển khai HIP trên gfx90c tuân thủ đúng các thông số kỹ thuật. Bản cập nhật này mở rộng khả năng tương thích phần cứng khi chạy LLM cục bộ trên các thiết bị AMD cũ hơn hoặc sử dụng đồ họa tích hợp thuộc kiến trúc gfx90c, chẳng hạn như các APU Renoir. Điều này giúp người dùng sở hữu các chip đồ họa này tận dụng khả năng tăng tốc GPU thông qua hệ sinh thái GGML. Phiên bản phát hành cung cấp sẵn các bản thực thi biên dịch cho nhiều hệ điều hành, bao gồm các bản dựng Windows và Linux tương thích với các backend ROCm 10.0, Vulkan và CUDA. Các thay đổi về mã nguồn tập trung vào việc đảm bảo thực thi HIP đúng chuẩn cho các thiết bị thuộc tập lệnh mục tiêu `gfx90c`.
## KIẾN THỨC NỀN
llama.cpp là thư viện C/C++ phổ biến được thiết kế để suy luận mô hình ngôn ngữ lớn (LLM) cục bộ một cách hiệu quả, vận hành bởi GGML—một thư viện tính toán tensor nhẹ. AMD HIP (Heterogeneous-compute Interface for Portability) là API C++ runtime cho phép phần mềm chạy trên các GPU của AMD, trong khi `gfx90c` đại diện cho kiến trúc đồ họa mục tiêu được dùng trong các vi xử lý của AMD như dòng APU thế hệ Renoir.