~/AI MODELS/perplexity-releases-decider-v1-3-and-decider-flash-v1-3-classification-models

Perplexity Phát Hành Các Mô Hình Phân Loại Decider v1.3 và Decider Flash v1.3

Perplexity đã phát hành Decider v1.3 (26B) và Decider Flash v1.3 (5B) dưới dạng các mô hình phân loại mã nguồn mở theo giấy phép Apache 2.0, chuyên xuất ra phân phối xác suất thay vì sinh văn bản theo từng token. Phiên bản v1.3 giới thiệu loại câu hỏi 'locate' mới nhằm trích xuất các chuỗi văn bản nguyên bản kèm theo vị trí ký tự cho các tác vụ như nhận diện thực thể có tên và phát hiện thông tin nhận dạng cá nhân (PII). Các mô hình quyết định này cung cấp một giải pháp thay thế hiệu quả về chi phí và có độ chính xác cao cho các tác vụ phân loại, sắp xếp lại kết quả truy vấn (reranking) và trích xuất mà không gặp gỡ gánh nặng của việc sinh văn bản tự hồi quy truyền thống. Việc phát hành chúng dưới giấy phép mở Apache 2.0 tạo điều kiện thuận lợi lớn cho cộng đồng AI mã nguồn mở xây dựng các hệ thống xử lý ngôn ngữ tự nhiên chuyên biệt. Các mô hình này được tinh chỉnh từ kiến trúc Qwen với các lớp chú ý hai chiều (bidirectional attention), đòi hỏi một gói phần mềm chuyên dụng thay vì suy luận nhân quả tiêu chuẩn. Trong khi pplx-decider-v1.3 cần khoảng 49 GiB bộ nhớ cho trọng số BF16, biến thể Flash nhỏ hơn sử dụng khoảng 8.5 GiB và được chưng cất bằng mục tiêu hàm phân kỳ KL (Kullback-Leibler).

## KIẾN THỨC NỀN

Mô hình trọng số mở cung cấp các tham số đã được huấn luyện công khai như trọng số và độ lệch, cho phép người dùng tải xuống, chạy và tinh chỉnh tùy theo giấy phép của chúng. Chưng cất kiến thức là một kỹ thuật nén trong đó một mô hình học viên nhỏ hơn học cách mô phỏng một mô hình giáo viên lớn hơn, thường bằng cách giảm thiểu phân kỳ Kullback-Leibler (KL) để khớp với các phân phối xác suất đầu ra.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Models#Open Source#Classification#Perplexity#LLM

$ subscribe --daily