Bản phát hành llama.cpp b12475 di chuyển Giao diện Llama Chat sang SvelteKit 3
Bản phát hành b12475 của llama.cpp cập nhật giao diện web Llama Chat tích hợp bằng cách chuyển đổi sang SvelteKit 3, Vite 8, TypeScript 6 và ESLint 10. Nó cũng chuyển từ @vite-pwa/sveltekit sang service worker gốc của SvelteKit để xử lý việc lưu trữ bộ đệm và cập nhật ứng dụng. Bản cập nhật này hiện đại hóa bộ công cụ phát triển và quy trình bảo trì cho giao diện web tích hợp của dự án, đảm bảo khả năng tương thích với các tiêu chuẩn hệ sinh thái hiện tại và khắc phục các cảnh báo kiểm toán bảo mật còn tồn đọng. Các nhà phát triển và người dùng cuối phụ thuộc vào giao diện trò chuyện cục bộ mặc định sẽ được hưởng lợi từ việc cải thiện bộ nhớ đệm, các mẫu quản lý trạng thái hiện đại và mã nguồn gọn gàng hơn. Việc di chuyển đã tái cấu trúc các mẫu thành phần để tuân thủ các hướng dẫn của Svelte 5, tận dụng các rune và cú pháp thuộc tính hiện đại cùng với bản nâng cấp lên SvelteKit 3. Ngoài ra, các phiên bản phụ thuộc và ghi đè (như minimatch 11.0.5) đã được điều chỉnh để giải quyết toàn bộ các lỗ hổng kiểm toán npm đang chờ xử lý.
## KIẾN THỨC NỀN
llama.cpp là một thư viện mã nguồn mở phổ biến cho phép suy luận cục bộ hiệu quả cho các mô hình ngôn ngữ lớn như Llama của Meta trên phần cứng phổ thông. Nó đi kèm với một máy chủ HTTP tích hợp cùng giao diện web đơn giản để người dùng tương tác trực tiếp, cho phép người dùng chạy các ứng dụng trò chuyện trên máy cục bộ mà không cần cài đặt phức tạp.