ggerganov/llama.cpp phát hành phiên bản b11818 cập nhật endpoint rerank của server

Phiên bản llama.cpp b11818 giới thiệu tính năng nhập nội dung có kiểu dữ liệu (typed content input) và cải thiện khả năng xử lý đa phương thức cho endpoint rerank của máy chủ. Các cập nhật này bao gồm việc bổ sung cơ chế kiểm tra để từ chối đầu vào đa phương thức khi mô hình thiếu mẫu chat rerank, đồng thời cải thiện mã lỗi. Những cải tiến này nâng cao độ tin cậy và khả năng xử lý lỗi cho việc triển khai máy chủ AI cục bộ sử dụng các mô hình rerank đa phương thức. Các nhà phát triển xây dựng hệ thống tìm kiếm và truy xuất thông tin sẽ hưởng lợi từ hành vi API có thể dự đoán được và các định dạng đầu vào chuẩn hóa. Bản phát hành chuyển đổi các lỗi tải xuống phương tiện hoặc giải mã base64 thành mã trạng thái HTTP 400 thay vì 500, đồng thời từ chối tham số top_n âm. Ngoài ra, tài liệu cũng được cập nhật để ghi chú rằng đầu vào của Text Embeddings Inference (TEI) chấp nhận cùng hình dạng với Jina.