AMD Công Bố ROCm 10.0 Cùng Tiến Trình Tích Hợp Vào llama.cpp
AMD đã công bố ROCm 10.0, một bản cập nhật cột mốc quan trọng cho nền tảng tính toán GPU nguồn mở được thiết kế cho kỷ nguyên AI tự chủ (Agentic AI). Bên cạnh đó, các nỗ lực tích hợp cũng đang được tiến hành với một yêu cầu kéo (pull request) đang chờ phê duyệt để hỗ trợ ROCm 10.0 trong thư viện suy luận cục bộ phổ biến llama.cpp. Là giải pháp thay thế nguồn mở chính cho bộ công cụ CUDA độc quyền của NVIDIA, việc phát hành ROCm 10.0 và sự tích hợp nhanh chóng của nó vào các công cụ như llama.cpp là rất quan trọng để thúc đẩy cạnh tranh và mở rộng các lựa chọn phần cứng trong hệ sinh thái phát triển AI. Bản cập nhật này ra mắt ngay sau khi phiên bản 7.14 được phát hành trước đó một tháng, đánh dấu một bước nhảy vọt về số phiên bản, và nhằm mục đích tối ưu hóa hiệu suất trên các thiết bị AMD Instinct, Radeon và Ryzen AI.
## KIẾN THỨC NỀN
AMD ROCm là một ngăn xếp phần mềm nguồn mở cung cấp các trình điều khiển (driver), trình biên dịch và thư viện để chạy các tác vụ AI và tính toán hiệu năng cao trên GPU của AMD. Llama.cpp là một thư viện C/C++ gọn nhẹ và rất phổ biến được sử dụng để chạy suy luận cục bộ trên các mô hình ngôn ngữ lớn, đóng vai trò là nền tảng cho nhiều ứng dụng AI chạy offline.