Trình kết xuất Markdown trực tuyến không phụ thuộc được xây dựng cho giao diện trò chuyện AI
Một kỹ sư đã xây dựng một trình kết xuất Markdown dòng dữ liệu gia tăng, không phụ thuộc có tên là llx-markdown, có khả năng phân tích văn bản và sửa chữa cú pháp chưa hoàn thành ngay lập tức. Công cụ này xử lý phản hồi 100k ký tự chỉ trong 0,25 giây, vượt trội hơn đáng kể so với các thư viện hiện có như markdown-to-jsx và react-markdown. Các trình phân tích cú pháp Markdown truyền thống phải phân tích lại toàn bộ phản hồi trò chuyện trên mỗi token, gây suy giảm hiệu suất nghiêm trọng và lỗi hiển thị hình ảnh trong quá trình truyền tải của mô hình ngôn ngữ lớn (LLM). Công cụ này giải quyết điểm nghẽn đó, cho phép kết xuất mượt mà theo thời gian thực cho các ứng dụng AI. Gói phần mềm nặng 30 KB sau khi nén gzipped, vượt qua các bài kiểm tra thông số kỹ thuật CommonMark và GFM, đồng thời giới thiệu các phần mở rộng tùy chỉnh như các khối bước, tab và ưu/nhược điểm lấy cảm hứng từ cảnh báo của GitHub. Tuy nhiên, gói này không hỗ trợ các plugin remark hoặc rehype, nghĩa là các nhà phát triển phụ thuộc vào các hệ sinh thái đó phải gắn bó với các giải pháp thay thế truyền thống.
## KIẾN THỨC NỀN
Khi các Mô hình Ngôn ngữ Lớn tạo ra các phản hồi văn bản, chúng truyền tải các token theo dạng gia tăng thay vì gửi toàn bộ thông báo cùng một lúc. Các thư viện Markdown tiêu chuẩn gặp khó khăn với việc này vì các định dạng thô như dấu hoa thị đậm chưa được đóng hoặc liên kết một phần làm hỏng trình phân tích cú pháp, dẫn đến hiện tượng nhấp nháy văn bản hoặc định dạng sai cho đến khi token đóng đến nơi.