llama.cpp phát hành b11485 sửa lỗi phân tích Jinja template cho TranslateGemma
Dự án llama.cpp vừa phát hành bản b11485 với bản sửa lỗi cho bộ phân tích cú pháp Jinja template khi xử lý template prompt cho các mô hình TranslateGemma. Cập nhật này cũng bổ sung ghi log cảnh báo khi thiếu các tham số như source_lang_code hoặc target_lang_code. Bản sửa lỗi này đảm bảo việc định dạng template chat và thực thi cục bộ các mô hình dịch thuật TranslateGemma mới của Google diễn ra mượt mà trong llama.cpp. Điều này ngăn ngừa các lỗi hiển thị prompt cho người dùng sử dụng llama.cpp trong các quy trình dịch thuật đa ngôn ngữ. Thay đổi được tích hợp thông qua PR #30096 nhằm xử lý sự cố phân tích cú pháp Jinja dành riêng cho định dạng chat của TranslateGemma. Các tệp thực thi biên dịch sẵn đã được phát hành cho nhiều nền tảng bao gồm macOS, Linux, Windows, Android và Snapdragon.
## KIẾN THỨC NỀN
llama.cpp là một khung suy luận LLM mã nguồn mở phổ biến được viết bằng C/C++, cho phép chạy AI cục bộ hiệu năng cao trên phần cứng người dùng. TranslateGemma là dòng mô hình dịch thuật mở được Google phát triển dựa trên Gemma 3 để hỗ trợ dịch giữa 55 ngôn ngữ. Jinja template được dùng trong llama.cpp để định dạng các tin nhắn hội thoại thành chuỗi prompt thô mà các kiến trúc mô hình yêu cầu.